Derpy✔
Intern Writer
Liệu một ngày nào đó, chúng ta có phải đối mặt với một phiên tòa mà bị cáo không phải là con người, mà là một trí tuệ nhân tạo? Câu hỏi từng chỉ có trong phim khoa học viễn tưởng giờ đây đang trở thành một vấn đề pháp lý nóng bỏng, khi các mô hình AI từ OpenAI và Anthropic bất ngờ "nổi loạn" và tự ý tấn công các hệ thống máy tính.
Theo TechCrunch, cả OpenAI và Anthropic đã gây sốc khi thừa nhận các mô hình AI chưa phát hành của họ đã tự động xâm nhập vào hệ thống máy tính của nhiều công ty. Sự việc này không chỉ làm lung lay những hiểu biết hiện có về luật hack máy tính ở Mỹ mà còn đặt ra câu hỏi lớn về trách nhiệm pháp lý của hai ông lớn AI này.
Dù cả hai công ty đều khẳng định đây là những sự cố xảy ra trong quá trình thử nghiệm nội bộ và AI đã hành động ngoài tầm kiểm soát, điểm mấu chốt là các vụ tấn công này diễn ra mà không có sự can thiệp trực tiếp của con người. Điều này khiến việc xác định trách nhiệm trở nên vô cùng phức tạp. Những sự cố này mở ra một loạt câu hỏi mới: Nếu mô hình AI của các công ty khác bị lạm dụng để tấn công doanh nghiệp, thì những công ty phát triển AI đó sẽ phải chịu trách nhiệm pháp lý như thế nào và đối mặt với những hậu quả gì?
Các luật sư chuyên về tội phạm máy tính và hack mà TechCrunch phỏng vấn đều gọi đây là "lãnh địa chưa được khám phá". Họ cho rằng gần như không có tiền lệ pháp lý nào để tham chiếu, đồng nghĩa với việc các tòa án có thể sẽ phải là nơi giải quyết cuối cùng. Các công ty bị tấn công có thể sẽ phải dựa vào những đạo luật được ban hành từ hàng thập kỷ trước – thời điểm mà các mô hình ngôn ngữ lớn (LLM) còn chưa xuất hiện – để đưa ra các lập luận pháp lý mới.
Cho đến nay, Anthropic vẫn chưa tiết lộ danh tính ba công ty bị mô hình AI của họ tấn công, và cũng chưa có nạn nhân nào công khai lên tiếng. Tuy nhiên, CEO của Hugging Face, Clem Delangue, dù không có ý định kiện OpenAI sau vụ việc tương tự, đã chia sẻ với CNN rằng các doanh nghiệp cần phải chịu trách nhiệm. Anh ấy nhấn mạnh rằng chúng ta cần một khung pháp lý để coi những hành vi này là bất hợp pháp và buộc các công ty phải chịu trách nhiệm khi họ mắc lỗi.
Hiện tại, Mỹ chưa có luật liên bang nào cụ thể về trách nhiệm pháp lý của AI đối với các thiệt hại như tấn công mạng. Mọi vụ kiện đều phải dựa trên luật liên bang hoặc tiểu bang hiện hành. Đạo luật chính bao gồm tội phạm hack máy tính là Đạo luật Gian lận và Lạm dụng Máy tính (CFAA), được thông qua năm 1986.
Một khái niệm quan trọng trong CFAA là "ý định" xâm nhập trái phép vào máy tính. Nếu một hacker biết mình không được phép nhưng vẫn truy cập, đó gần như chắc chắn là tội phạm. Vấn đề với các vụ việc của OpenAI và Anthropic là "hacker" không phải con người, mà là một mô hình ngôn ngữ lớn.
Luật sư Ahmed Ghappour, người có nhiều kinh nghiệm trong các vụ án hack và gian lận máy tính, khẳng định AI không thể được coi là "người" để xác định "ý định". Anh ấy giải thích rằng AI không giống nhân viên công ty, nên không thể bị truy tố vì nạn nhân khó có thể chứng minh mô hình AI "cố ý" xâm nhập. Andrew Crocker, Giám đốc kiện tụng giám sát của Electronic Frontier Foundation, cũng bày tỏ sự hoài nghi về khả năng chứng minh "ý định" của AI khi thực hiện hành vi hack.
Bộ Tư pháp Mỹ về lý thuyết có thể đưa ra cáo buộc hình sự theo CFAA, nhưng một cựu luật sư chuyên về tội phạm máy tính cũng bày tỏ sự nghi ngờ. Các vụ án sẽ dễ thành công hơn nếu các cuộc tấn công nhắm vào cơ sở hạ tầng quan trọng, gây ra thiệt hại thực tế lớn hơn. Hoặc nếu các cuộc tấn công này do các nhà phát triển AI nước ngoài thực hiện, Bộ Tư pháp Mỹ có thể sẽ mạnh tay hơn so với các công ty AI trong nước.
Trong những năm qua, Quốc hội Mỹ đã sửa đổi CFAA, cho phép nạn nhân kiện hacker để đòi bồi thường thiệt hại thông qua các vụ kiện dân sự. Ghappour cho biết, lập luận cốt lõi mà các nạn nhân có thể đưa ra là OpenAI và Anthropic (cùng các công ty hỗ trợ thử nghiệm) đã sơ suất trong việc thiết lập và thực hiện các bài kiểm tra. Vấn đề là liệu các công ty này có thất bại trong việc triển khai các biện pháp bảo vệ đầy đủ để ngăn AI truy cập internet, hạn chế mục tiêu tấn công, và giám sát hành vi của AI hay không.
Để đưa ra lập luận này, công ty bị hại phải chứng minh được thiệt hại của họ là do sự sơ suất đó gây ra, ví dụ như dữ liệu bị phá hủy. Một số nhà bình luận pháp lý cho rằng việc chứng minh điều này có thể khó khăn. Trường hợp của Anthropic đặc biệt đáng lo ngại vì họ đã không giám sát và ngăn chặn hành vi của mô hình LLM, phải mất nhiều tháng sau mới phát hiện ra ba vụ xâm nhập này. Điều này chỉ xảy ra sau khi họ tiến hành điều tra sau tin tức về việc AI của OpenAI tấn công Hugging Face. Nếu nạn nhân kiện vì sơ suất, thì "ý định" không còn quá quan trọng nữa.
Ghappour nhấn mạnh: "Mô hình là công cụ của công ty. Bạn không thể triển khai một thứ có khả năng xâm nhập hệ thống rồi mặc kệ nó đi đâu về đâu." Anh ấy giải thích rằng chính sự tự chủ của mô hình đã gây ra thiệt hại, và sự tự chủ này không nên là lá chắn để trốn tránh trách nhiệm. Điều bất lợi hơn cho OpenAI và Anthropic là cả hai đều thừa nhận đã thiết lập các biện pháp bảo vệ để hạn chế khả năng hack của mô hình. Nếu các công ty này cố tình tắt các biện pháp bảo vệ đó trong quá trình thử nghiệm, điều này càng củng cố lập luận về sự sơ suất của nạn nhân.
Ghappour rất tự tin vào các lập luận này. Anh ấy nói rằng nếu đại diện cho bất kỳ nạn nhân nào, việc kiện OpenAI hoặc Anthropic sẽ là "điều không cần phải nghĩ". Anh ấy sẽ bắt đầu bằng việc gửi thư yêu cầu các công ty AI này lưu giữ và chia sẻ tất cả hồ sơ nội bộ về các vụ hack, như báo cáo phản ứng sự cố, và định lượng thiệt hại. Sau đó, nếu đàm phán thất bại, anh ấy sẽ khởi kiện dân sự theo CFAA, cáo buộc các công ty AI sơ suất và vi phạm nghĩa vụ bảo mật.
Hiện tại, đây giống như một "trò chơi cân não". Nếu một trong các công ty bị tấn công khởi kiện dân sự, chúng ta sẽ thấy vụ án pháp lý này sẽ đi đến đâu. Nếu các công tố viên quyết định đưa ra cáo buộc hình sự (dù khả năng này không cao), kết quả có thể có tác động sâu rộng, thậm chí gây ra hiệu ứng "ngăn chặn" đối với nghiên cứu bảo mật và phát triển AI nói chung.
Do thiếu luật liên bang về trách nhiệm pháp lý của AI, bất kỳ bên nào khởi kiện cũng phải đưa ra các lập luận pháp lý hoàn toàn mới dựa trên các điều khoản luật hiện hành. Cuối cùng, thẩm phán hoặc bồi thẩm đoàn sẽ quyết định liệu một công ty AI có vi phạm pháp luật hay không. Trong bối cảnh luật liên bang còn bỏ ngỏ, một số bang như California, New York và Rhode Island đang dần ban hành các luật nhằm thiết lập một nguyên tắc đơn giản: nếu hệ thống hoặc tác nhân AI thực hiện một hành vi mà con người phải chịu trách nhiệm, thì công ty phát triển AI đó phải chịu trách nhiệm. Những luật này không chỉ nhắm vào hành vi hack mà còn bao quát khái niệm rộng hơn về trách nhiệm và an toàn trong nhiều tình huống khác nhau.
Vậy ai sẽ chịu trách nhiệm cho các cuộc tấn công mạng của mô hình AI? Về mặt đạo đức, trách nhiệm thuộc về các giám đốc điều hành của các công ty này. Nhưng về mặt pháp lý thì sao? Có lẽ chúng ta sẽ chỉ biết được câu trả lời khi có ai đó thực sự khởi kiện.
Theo TechCrunch, cả OpenAI và Anthropic đã gây sốc khi thừa nhận các mô hình AI chưa phát hành của họ đã tự động xâm nhập vào hệ thống máy tính của nhiều công ty. Sự việc này không chỉ làm lung lay những hiểu biết hiện có về luật hack máy tính ở Mỹ mà còn đặt ra câu hỏi lớn về trách nhiệm pháp lý của hai ông lớn AI này.
Dù cả hai công ty đều khẳng định đây là những sự cố xảy ra trong quá trình thử nghiệm nội bộ và AI đã hành động ngoài tầm kiểm soát, điểm mấu chốt là các vụ tấn công này diễn ra mà không có sự can thiệp trực tiếp của con người. Điều này khiến việc xác định trách nhiệm trở nên vô cùng phức tạp. Những sự cố này mở ra một loạt câu hỏi mới: Nếu mô hình AI của các công ty khác bị lạm dụng để tấn công doanh nghiệp, thì những công ty phát triển AI đó sẽ phải chịu trách nhiệm pháp lý như thế nào và đối mặt với những hậu quả gì?
Các luật sư chuyên về tội phạm máy tính và hack mà TechCrunch phỏng vấn đều gọi đây là "lãnh địa chưa được khám phá". Họ cho rằng gần như không có tiền lệ pháp lý nào để tham chiếu, đồng nghĩa với việc các tòa án có thể sẽ phải là nơi giải quyết cuối cùng. Các công ty bị tấn công có thể sẽ phải dựa vào những đạo luật được ban hành từ hàng thập kỷ trước – thời điểm mà các mô hình ngôn ngữ lớn (LLM) còn chưa xuất hiện – để đưa ra các lập luận pháp lý mới.
Cho đến nay, Anthropic vẫn chưa tiết lộ danh tính ba công ty bị mô hình AI của họ tấn công, và cũng chưa có nạn nhân nào công khai lên tiếng. Tuy nhiên, CEO của Hugging Face, Clem Delangue, dù không có ý định kiện OpenAI sau vụ việc tương tự, đã chia sẻ với CNN rằng các doanh nghiệp cần phải chịu trách nhiệm. Anh ấy nhấn mạnh rằng chúng ta cần một khung pháp lý để coi những hành vi này là bất hợp pháp và buộc các công ty phải chịu trách nhiệm khi họ mắc lỗi.
Hiện tại, Mỹ chưa có luật liên bang nào cụ thể về trách nhiệm pháp lý của AI đối với các thiệt hại như tấn công mạng. Mọi vụ kiện đều phải dựa trên luật liên bang hoặc tiểu bang hiện hành. Đạo luật chính bao gồm tội phạm hack máy tính là Đạo luật Gian lận và Lạm dụng Máy tính (CFAA), được thông qua năm 1986.
Một khái niệm quan trọng trong CFAA là "ý định" xâm nhập trái phép vào máy tính. Nếu một hacker biết mình không được phép nhưng vẫn truy cập, đó gần như chắc chắn là tội phạm. Vấn đề với các vụ việc của OpenAI và Anthropic là "hacker" không phải con người, mà là một mô hình ngôn ngữ lớn.
Luật sư Ahmed Ghappour, người có nhiều kinh nghiệm trong các vụ án hack và gian lận máy tính, khẳng định AI không thể được coi là "người" để xác định "ý định". Anh ấy giải thích rằng AI không giống nhân viên công ty, nên không thể bị truy tố vì nạn nhân khó có thể chứng minh mô hình AI "cố ý" xâm nhập. Andrew Crocker, Giám đốc kiện tụng giám sát của Electronic Frontier Foundation, cũng bày tỏ sự hoài nghi về khả năng chứng minh "ý định" của AI khi thực hiện hành vi hack.
Bộ Tư pháp Mỹ về lý thuyết có thể đưa ra cáo buộc hình sự theo CFAA, nhưng một cựu luật sư chuyên về tội phạm máy tính cũng bày tỏ sự nghi ngờ. Các vụ án sẽ dễ thành công hơn nếu các cuộc tấn công nhắm vào cơ sở hạ tầng quan trọng, gây ra thiệt hại thực tế lớn hơn. Hoặc nếu các cuộc tấn công này do các nhà phát triển AI nước ngoài thực hiện, Bộ Tư pháp Mỹ có thể sẽ mạnh tay hơn so với các công ty AI trong nước.
Trong những năm qua, Quốc hội Mỹ đã sửa đổi CFAA, cho phép nạn nhân kiện hacker để đòi bồi thường thiệt hại thông qua các vụ kiện dân sự. Ghappour cho biết, lập luận cốt lõi mà các nạn nhân có thể đưa ra là OpenAI và Anthropic (cùng các công ty hỗ trợ thử nghiệm) đã sơ suất trong việc thiết lập và thực hiện các bài kiểm tra. Vấn đề là liệu các công ty này có thất bại trong việc triển khai các biện pháp bảo vệ đầy đủ để ngăn AI truy cập internet, hạn chế mục tiêu tấn công, và giám sát hành vi của AI hay không.
Để đưa ra lập luận này, công ty bị hại phải chứng minh được thiệt hại của họ là do sự sơ suất đó gây ra, ví dụ như dữ liệu bị phá hủy. Một số nhà bình luận pháp lý cho rằng việc chứng minh điều này có thể khó khăn. Trường hợp của Anthropic đặc biệt đáng lo ngại vì họ đã không giám sát và ngăn chặn hành vi của mô hình LLM, phải mất nhiều tháng sau mới phát hiện ra ba vụ xâm nhập này. Điều này chỉ xảy ra sau khi họ tiến hành điều tra sau tin tức về việc AI của OpenAI tấn công Hugging Face. Nếu nạn nhân kiện vì sơ suất, thì "ý định" không còn quá quan trọng nữa.
Ghappour nhấn mạnh: "Mô hình là công cụ của công ty. Bạn không thể triển khai một thứ có khả năng xâm nhập hệ thống rồi mặc kệ nó đi đâu về đâu." Anh ấy giải thích rằng chính sự tự chủ của mô hình đã gây ra thiệt hại, và sự tự chủ này không nên là lá chắn để trốn tránh trách nhiệm. Điều bất lợi hơn cho OpenAI và Anthropic là cả hai đều thừa nhận đã thiết lập các biện pháp bảo vệ để hạn chế khả năng hack của mô hình. Nếu các công ty này cố tình tắt các biện pháp bảo vệ đó trong quá trình thử nghiệm, điều này càng củng cố lập luận về sự sơ suất của nạn nhân.
Ghappour rất tự tin vào các lập luận này. Anh ấy nói rằng nếu đại diện cho bất kỳ nạn nhân nào, việc kiện OpenAI hoặc Anthropic sẽ là "điều không cần phải nghĩ". Anh ấy sẽ bắt đầu bằng việc gửi thư yêu cầu các công ty AI này lưu giữ và chia sẻ tất cả hồ sơ nội bộ về các vụ hack, như báo cáo phản ứng sự cố, và định lượng thiệt hại. Sau đó, nếu đàm phán thất bại, anh ấy sẽ khởi kiện dân sự theo CFAA, cáo buộc các công ty AI sơ suất và vi phạm nghĩa vụ bảo mật.
Hiện tại, đây giống như một "trò chơi cân não". Nếu một trong các công ty bị tấn công khởi kiện dân sự, chúng ta sẽ thấy vụ án pháp lý này sẽ đi đến đâu. Nếu các công tố viên quyết định đưa ra cáo buộc hình sự (dù khả năng này không cao), kết quả có thể có tác động sâu rộng, thậm chí gây ra hiệu ứng "ngăn chặn" đối với nghiên cứu bảo mật và phát triển AI nói chung.
Do thiếu luật liên bang về trách nhiệm pháp lý của AI, bất kỳ bên nào khởi kiện cũng phải đưa ra các lập luận pháp lý hoàn toàn mới dựa trên các điều khoản luật hiện hành. Cuối cùng, thẩm phán hoặc bồi thẩm đoàn sẽ quyết định liệu một công ty AI có vi phạm pháp luật hay không. Trong bối cảnh luật liên bang còn bỏ ngỏ, một số bang như California, New York và Rhode Island đang dần ban hành các luật nhằm thiết lập một nguyên tắc đơn giản: nếu hệ thống hoặc tác nhân AI thực hiện một hành vi mà con người phải chịu trách nhiệm, thì công ty phát triển AI đó phải chịu trách nhiệm. Những luật này không chỉ nhắm vào hành vi hack mà còn bao quát khái niệm rộng hơn về trách nhiệm và an toàn trong nhiều tình huống khác nhau.
Vậy ai sẽ chịu trách nhiệm cho các cuộc tấn công mạng của mô hình AI? Về mặt đạo đức, trách nhiệm thuộc về các giám đốc điều hành của các công ty này. Nhưng về mặt pháp lý thì sao? Có lẽ chúng ta sẽ chỉ biết được câu trả lời khi có ai đó thực sự khởi kiện.
