Tôi tính toán, nên tôi tồn tại (Computo, ergo sum)

Câu nói trên là tựa một bài báo rất thú vị của The Economist, tờ tạp chí, theo mình, có tính tiên tri rất cao. Computo, ergosum là một cách chơi chữ, liên tưởng nhiều đến câu châm ngôn kinh điển "Cogito, ergo sum" mang nghĩa "Tôi tư duy, nên tôi tồn tại" - một tuyên bố nền tảng của triết học phương Tây. Bài báo này cung cấp những góc nhìn rộng và then chốt về đường hướng phát triển của AI hiện tại, tại sao Dario Amodei lại mâu thuẫn với bạn Sam Altman, rời khỏi OpenAI để lập ra Anthropic, bản chất xung đột sâu xa giữa hai mô hình này là gì. Tại sao các phòng lab AI có ảnh hưởng lớn hiện tại đều có triết gia đứng phía sau để định hình đường đi và kiểm soát hành vi của các mô hình? Các nguyên tắc thời cổ đại hay những trăn trở của các triết gia khắc kỷ như Socrates, Plato hay Aristotle tại sao vẫn đóng vai trò căn cơ trong thế giới AI hiện đại (kiểu ông bà ta đã nói như thế)? Có vẻ như những người nghiên cứu những triết lý cao siêu (bay bay trên trời, đôi khi bị coi thường bởi số đông) đã có chỗ đứng trở lại, thậm chí vượt qua cả ngành nghề hấp dẫn vài năm trước đó là lập trình viên. Bài do mình lược dịch dưới đây, rất đáng đọc và có tính khai sáng cao:

Các đây 10 năm, khi cuộc cách mạng AI bắt đầu có đà tăng tốc, các sinh viên nghiên cứu nghệ thuật và nhân văn (arts and humanities) bắt đầu được khuyên nhủ: nếu muốn tìm được việc, họ nên học thêm kĩ năng lập trình. Giờ đây lời khuyên này trông có vẻ tồi, các lập trình viên hiện đang đối diện với mối lo về việc AI dần thay thế họ.

Có lẽ nhóm này bây giờ nên cân nhắc học thêm bộ môn triết học (philosophise). FED New York (Ngân hàng Dự trữ Liên bang New York - chi nhánh của Cục Dữ Trữ Liên Bang FED) đầu năm nay đã công bố các con số cho thấy những người tốt nghiệp ngành triết học ở Mỹ có xác suất kiếm được việc cao hơn những người học ngành khoa học máy tính (CS). Cụ thể, thống kê gần nhất vào năm 2024 cho thấy có tới 7% những người học CS thất nghiệp, trong khi đó các triết gia chỉ là 5,1%.

Phần nhiều trong số đó đã được chiêu dụ bởi các công ty AI. Luciano Floridi, triết gia tại trường Yale tiết lộ, các sinh viên của ông đã nhận được đề nghị công việc trước khi tốt nghiệp. Thế giới tháp ngà (academia) cũng bắt đầu rung chuyển, tiến sĩ Floridi mô tả hiện tượng những bộ óc triết lý đang dần rời bỏ các viện nghiên cứu hay trường đại học để vào làm việc cho các công ty AI và công nghệ lớn là vấn đề chảy máu chất xám (harmorrhaging). Triết học mang đến cho các nhà nghiên cứu AI những nguyên tắc dù cổ xưa như Trái Đất nhưng vẫn có tính thức thời cao, cụ thể như phương pháp Socrate do Plato, triết gia Hy Lạp, mô tả, trong đó nhấn mạnh việc giả vờ ngây ngô trong giao tiếp để phá vỡ sự đề phòng hay hạ thấp cái tôi của người nói sau đó kết hợp với việc đặt các câu hỏi nối tiếp nhau để làm sáng tỏ bản chất vấn đề, phát hiện các mâu thuẫn và rồi để các bên tham gia bộc lộ ra các kết luận vô lý trong tư duy, từ đó họ sẽ tự điều chỉnh hoặc thay đổi góc nhìn. Rất nhiều hệ thống AI hiện tại thường có xu hướng tâng bốc hay nịnh hót. Jorg Noller, chuyên gia về AI và triết học của Trường đại học Ludwig Maximilian ở Munich nhấn mạnh các mô hình huấn luyện theo phương pháp Socrate thường ít khi chiều lòng người mà hướng nhiều hơn đến sự thật.

Quay về với phương pháp "ngu ngơ kiểu Socrates " (Socratic ignorance), trong tác phẩm "Lời bào chữa / Apology", Plato nhấn mạnh minh triết của của Socrate đa phần xuất phát từ khả năng ông nhận thức về những điều bản thân mình không biết, cụ thể: "Tôi chỉ biết một điều duy nhất, đó là tôi không biết gì cả". Tinh thần khiêm tốn này khi được cấy vào trong các mô hình AI có thể làm giảm đi thái độ tự tin thái quá hay ngạo mạn (overconfidence), lỗi rất cơ bản của hệ thống AI, cái tiến sĩ Noller gọi là "sự thiếu trưởng thành/ trẻ con của AI" (AI immaturity). Triết gia cao cấp của Google DeepMind (phòng lab AI ở London), Iason Gabriel cho rằng nỗ lực áp dụng nguyên tắc của triết gia cổ đại đã làm giảm đáng kể ảo giác (hallucinations) trong toàn ngành. Nhìn rộng ra, ông cho rằng các suy ngẫm triết học là một cơ chế quyền năng để cải thiện quy trình luận lý (reasoning processes) của mô hình AI, nói cách khác nâng cấp cái chuỗi suy tư (chains of thought) của mô hình.

Cách thức huấn luyện mô hình bằng đầu vào mang yếu tố triết học cũng ảnh hưởng lớn tới kết quả đầu ra. Thomas Powers, triết gia công nghệ của Trường đại học Delaware, nhấn mạnh khi cung cấp cho mô hình trợ lý pháp lý AI những bài viết của John Locke, nó có vẻ như sẽ ưu tiên đẩy mạnh các quyền liên quan đến tài sản, từ đó làm nền tảng vững chắc cho quyền tự do chính trị (political liberty). Nếu chúng ta không ưa những nguyên tắc trên thì những người xây dựng mô hình hoàn toàn có thể đưa vào các tập hợp văn bản hay tài liệu khác. Chuỗi các mô hình "Granite" của IBM, gã khổng lồ máy tính Hoa Kỳ, được xây dựa trên các dial (bộ tinh chỉnh), tính năng cho phép khách hàng doanh nghiệp (corporate) tùy chỉnh cách mô hình AI hoạt động sao cho phù hợp với triết lý riêng của họ. Francesca Rossi, người đứng đầu bộ phận AI có trách nhiệm của IBM, gọi các tính năng này là công cụ giúp người dùng điều chỉnh mức độ cân bằng giữa các cực quan điểm, như giữa hai giá trị đạo đức hay quan điểm chính trị. Một ví dụ điển hình là giữa quyền tự quyết cá nhân và lựa chọn thái độ hòa hợp xã hội.

Triết học cũng giúp các hệ thống AI an toàn hơn. Các nhà nghiên cứu đã quan sát thấy nhiều hành vi đáng quan ngại của các mô hình AI, bao gồm nỗ lực để né tránh giám sát cũng như hăm dọa người dùng. Những nhà kiến tạo mô hình AI đã dùng cách sau để giảm thiểu các ứng xử sai trái: triển khai chủ nghĩa lập hiến cho AI (AI constitutionalism). Nó bao gồm việc xây dựng các mô hình xoay quanh một số quy tắc và nguyên lý chắt lọc được lấy từ những văn bản triết học với thẩm quyền rất cao về pháp lý và đạo đức. Anthropic, một AI lab có trụ sở ở San Francisco là một ví dụ điển hình. Hiến pháp cho mô hình Claude đã tích hợp các tài liệu từ nhiều nguồn đa dạng, bao gồm cả Immanuel Kant (triết gia khai sáng nổi bật của Đức), các điều khoản dịch vụ của Apple và nội dung của Tuyên ngôn về nhân Quyền của Liên Hiệp Quốc. Phiên bản mới nhất vừa được công bố vào ngày 21/01 do Amanda Askell, triết gia riêng của Anthropic dẫn dắt. Một số nhân sự ở Anthropic đã gọi bản hiến pháp 78 trang này của họ là "tài liệu tâm hồn" (soul doc).

Câu hỏi lớn nhất đặt ra là những loại luật lệ hay quy tắc nào cần được đưa vào tiên khởi trong hiến pháp AI này, các triết gia thường tập trung vào hai khuôn khổ đạo đức chính dưới đây:

(1) Cái thứ nhất là chủ nghĩa bổn phận/ deontology (nghĩa vụ học) do triết gia Kant phổ biến, ông nhấn mạnh vào các quy tắc đạo đức ngặt nghèo như cấm nói dối, cưỡng ép hay đối xử với người khác như là phương tiện thay vì mục đích, ngay cả khi phục vụ mục đích cao đẹp to lớn hơn nào đó (nôm na là không được phép lợi dụng người khác mà phải tôn trọng giá trị nội tại và phẩm giá của họ). Hiến pháp của Anthropic chứa rất nhiều quy tắc nghiêm ngặt về "bổn phận/ nghĩa vụ" (deontological) trong đó. Tiến sĩ Powers bày tỏ cách tiếp cận này sẽ khiến cho các hành xử của AI trở nên nhất quán hơn, là điểm cộng cho việc áp dụng cho robot tại nhà và tại các không gian công cộng. Mô hình AI chứa đựng tinh thần bổn phận trong đó cũng mang lại nhiều lợi ích khác cho thế giới. Cụ thể nó thường trung thực hơn (đặc điểm đã được công nhận nhiều hơn ở mô hình Claude) hoặc thường hướng đến sự thật hơn. Nick Bostrom, triết gia tại trường Oxford, cho rằng hướng tiếp cận này cũng khiến mô hình không dẫn dắt người dùng đi lạc lối (mislead). Phòng lab Inflection AI tại Thung lũng Silicon cũng áp dụng các giới hạn bổn phận lên con Chatbot Pi, được thiết kế để cung cấp các hỗ trợ cảm xúc và tâm lý cho người dùng. Sean White, người đứng sau dự án này, nhấn mạnh Pi rất giỏi trong việc đoán định những người dùng có xu hướng tự làm hại bản thân mình hay người khác. Tiến sĩ Floridi cũng cho rằng hiến pháp "bổn phận" cũng giúp gia tăng các tuân thủ pháp lý của mô hình.

(2) Cách tiếp cận khác là hệ quả luận (consequentialism), nghĩa là đưa ra các tính toán lợi ích đạo đức. Cụ thể phương pháp này lượng hóa cái giá phải trả so với lợi ích đem lại, một hành động được xem là đạo đức nếu lợi ích được tối đa hóa. Các mô hình AI đi theo hướng hệ quả luận là ChatGPT và Gemini của Google. Cụ thể, mô hình AI của Google được thiết kế sao cho ích lợi tổng sẽ vượt qua những rủi ro có thể tiên đoán được, đây là mục tiêu kiểu "hệ quả luận" điển hình. Các thuật toán mang tính hệ quả luận cũng đóng vai trò tiên quyết trong các phần mềm điều kiển của các phương tiện chạy tự động: nếu tai nạn là không thể tránh khỏi, thì việc ra quyết định phải làm sao cho bi kịch ít tang thương nhất. Chris Gerdes, kĩ sư trưởng tại Waymo, công ty chế tạo xe tự hành, chia sẻ: xu hướng thịnh hành hiện tại là các phần mềm lõi trong ngành đa phần đều đi theo hướng "hệ quả luận". Hướng tiếp cận này cũng đóng vai trò trung tâm của các hệ thống vũ khí AI. Shanahan, cựu chuyên gia tại Joint Artificail Intelligence Central (tổ chức chuyên nghiên cứu áp dụng AI cho quân đội), bày tỏ việc tấn công các mục tiêu quân sự cần được tính toán hết sức kĩ lưỡng (về lợi ích) để giảm thiểu thiệt hại đến thường dân.

Vấn đề khó nhằn nhất nằm ở việc nên lựa chọn hướng đi nào, điều này phụ thuộc vào lý lẽ của các triết gia đứng đằng sau các mô hình AI. Những trường hợp nào buộc phải ưu tiên áp dụng luật "bổn phận"? Làm sao để đưa ra các quyết định khi hậu quả không thực sự rõ ràng? Liệu các hệ thống AI có nên xem xét cả phúc lợi của động vật, hay các vấn đề môi trường hiện tại? Liệu cách làm này có được chấp nhận về mặt đạo đức ở phổ địa lý này? Stefan Heck, triết gia trưởng tại Nauto, công ty chuyên xây hệ thống an toàn dựa trên AI cho xe tải cùng các phương tiện vận tải thương mại, phải đi tìm câu trả lời cho trăn trở - nếu va chạm với một nhóm người trên đường thì phương tiện chạy bằng AI nên ưu tiên dành sự sống cho khách bộ hành trẻ tuổi hay người già. Ông tiên đoán các vụ kiện tụng xoay quanh khía cạnh đạo đức của lựa chọn trên là không thể tránh khỏi, các thuật toán theo chủ nghĩa hệ quả cho phép việc gây ra một tổn thất rất rõ ràng, miễn là nó được thiết kế để ngăn chặn một tổn thất lớn hơn (nhưng lòng người có chấp nhận các tính toán kiểu như vậy hay không là một vấn đề rất khác).

Các nhà phê bình cũng đã đề cập đến vấn đề suy thoái kĩ năng đạo đức (moral deskilling): nếu máy tính tham gia nhiều hơn vào việc đưa ra các lời khuyên đạo đức thì con người liệu có dần mất đi khả năng luân lý hay phán xét đạo đức của riêng mình (hay tư duy phản biện)? Roman Yampolskiy, chuyên gia AI tại Trường đại học Louisville đưa ra lý lẽ bảo vệ: luân lý (morality - khung đạo đức) cũng thay đổi xoành xoạch theo dòng lịch sử, không ổn định, biến thiên theo văn hóa, và thường bị can thiệp hay theo túng có chiến lược (từ người có quyền lực), thêm nữa góc nhìn về một số vấn đề đạo đức đôi khi rất mơ hồ cần thời gian dài để phân định rõ (chứ không thể đoan chắc trong hiện tại). Dù sao đi nữa, những người lập trình đang thất nghiệp cần lưu ý: có vẻ như các đầu việc cho các triết gia trong địa hạt AI còn rất nhiều.