Sự phát triển khả năng của mô hình AI không giống như cách mà trí thông minh con người phát triển, nhưng vẫn có một giả định rộng rãi trong giới AI rằng AGI hoặc siêu trí tuệ sẽ, không thể tránh khỏi, có cùng phân phối khả năng như những thiên tài con người. Điều này có vẻ sai.

quan sát của karpathy (cũng như những người khác) rằng RL tạo ra một tập hợp các khả năng có thể không bao giờ phát triển thành AGI (tức là việc mở rộng dữ liệu huấn luyện và cải thiện chất lượng dữ liệu có thể không bao giờ dẫn đến các mô hình có tính chất tác nhân mặc định hoặc tạo ra cái nhìn mới hoặc gì đó) cũng có thể tổng quát.

tức là, tôi không thấy có một quy luật nào của vũ trụ nói rằng toàn bộ gói trí tuệ con người trong dân số sẽ có thể được tái tạo bằng các kỹ thuật ML, chứ đừng nói đến bất kỳ hướng nghiên cứu nào cụ thể.

Có vẻ như rất hợp lý với tôi (một kẻ ngốc btw) rằng bạn có thể xây dựng các mô hình AI tự học liên tục có khả năng thực hiện gần như tất cả công việc của một nhà phân tích pháp lý hàng đầu tại một công ty, nhưng chỉ khoảng 50 hoặc 60% công việc của một học giả pháp lý làm việc trong một lĩnh vực mới.

điều này rõ ràng với các luật sư bởi vì họ biết rằng các luật sư làm việc trong các lĩnh vực mới hoặc các lĩnh vực con cơ bản chỉ đang tạo ra luật bằng cách so sánh, v.v.

không phải là người vật lý nhưng tương đương sẽ là bạn có thể chứa 10.000 sinh viên tốt nghiệp tự cải thiện trong một trung tâm dữ liệu mà không thể làm được công việc của một einstein (hoặc bất cứ điều gì— tôi không biết liệu "khi nào AGI thay thế einstein" có phải là một giả thuyết hữu ích hay không)

ngay cả khi bạn giả định rằng có thể tái tạo cái nhìn của con người một cách tổng hợp với, chẳng hạn, sự kết hợp của một vài kiến trúc mô hình khác nhau hoạt động cùng nhau — điều đó đối với tôi trông giống như loại vấn đề tối ưu hóa khó khăn mà việc điều chỉnh các mô hình tiên tiến đã trở thành bây giờ.