- Khung pháp lý đang phát triển từ nguyên tắc lỗi sang trách nhiệm pháp lý nghiêm ngặt đối với các hệ thống AI có rủi ro cao.
- Quy định về trí tuệ nhân tạo của châu Âu thiết lập quản lý rủi ro từ trước để đảm bảo an toàn và đạo đức trong việc triển khai công nghệ.
- Việc khắc phục thiệt hại gặp phải những thách thức phức tạp do tính không rõ ràng của thuật toán và khả năng tự chủ của máy móc.
Những ngày này, dường như không phút nào trôi qua mà chúng ta không nghe nói về ChatGPT, Perplexity, hay robot hoạt động trong phòng mổ. Cuộc cách mạng công nghệ này đã ập đến cuộc sống của chúng ta một cách đột ngột, và trong khi chúng ta kinh ngạc trước việc những công cụ này giúp cuộc sống dễ dàng hơn như thế nào, chúng cũng đã mở ra một hộp Pandora trong lĩnh vực pháp lý. Vấn đề là luật pháp thường chậm hơn so với công nghệ , và khi một thuật toán đưa ra quyết định tự động dẫn đến thảm họa, thì không đơn giản chỉ nói rằng, "Đó là lỗi của máy móc."
Chúng ta đang bước vào một lĩnh vực phức tạp, nơi các khái niệm kinh điển của luật dân sự không còn phù hợp. Chúng ta không chỉ đối phó với vấn đề phần mềm, mà còn với các hệ thống có khả năng tự học hỏi và phát triển , khiến việc truy tìm nguồn gốc thiệt hại trở nên vô cùng khó khăn. Đó là lý do tại sao việc phân tích sự thay đổi của khung pháp lý, đặc biệt là ở Liên minh châu Âu, là rất quan trọng, để cả các công ty lẫn người dùng đều không rơi vào tình trạng pháp lý bế tắc, không ai chịu trách nhiệm.
Từ góc độ pháp lý, chúng ta thực sự hiểu trí tuệ nhân tạo (AI) là gì?
Để tránh việc phải đưa ra kết luận thiếu căn cứ, trước tiên chúng ta cần định nghĩa rõ ràng những gì đang được đề cập. Ủy ban Châu Âu và Quy định (EU) 2024/1689 gần đây mô tả Trí tuệ Nhân tạo (AI) là các hệ thống dựa trên máy móc hoạt động với các mức độ tự chủ khác nhau . Chúng không chỉ đơn thuần là các chương trình tuân theo một công thức cố định, mà là các hệ thống xử lý dữ liệu đầu vào để tạo ra đầu ra – chẳng hạn như dự đoán hoặc quyết định – có thể thay đổi thế giới vật lý hoặc thế giới ảo. Điểm mấu chốt ở đây là, mặc dù chúng mô phỏng hành vi thông minh, nhưng chúng thiếu ý thức và ý chí tự do , điều này, hiện tại, loại trừ khả năng trao cho chúng tư cách pháp nhân độc lập.
Những rủi ro đe dọa quyền lợi của chúng ta
Việc triển khai trí tuệ nhân tạo không phải là vô hại. Có ba lĩnh vực rủi ro chính mà các nhà quản lý quan tâm. Đầu tiên là rủi ro đối với các quyền cơ bản , trong đó quyền riêng tư và quyền không phân biệt đối xử bị đe dọa. Việc sử dụng dữ liệu sinh trắc học để giám sát hàng loạt hoặc tạo ra sự thiên vị bằng thuật toán có thể dẫn đến việc một người bị từ chối trong quá trình tuyển chọn hoặc bị từ chối cấp tín dụng ngân hàng mà không có lý do chính đáng, dựa trên những định kiến vô tình được lập trình bởi nhà phát triển.
Mặt khác, vẫn tồn tại những lỗ hổng bảo mật và hoạt động kém hiệu quả. Một cuộc tấn công mạng vào hệ thống tài chính dựa trên trí tuệ nhân tạo hoặc sự cố trục trặc trong robot phẫu thuật có thể gây ra thiệt hại vật chất và nhân mạng cực kỳ nghiêm trọng . Cuối cùng, còn có những rủi ro mang tính hệ thống, từ việc lan truyền thông tin sai lệch trên diện rộng (tin giả) đến việc mất việc làm, tạo ra cảm giác bất lực cho người tiêu dùng, những người thường thậm chí không biết rằng họ đang tương tác với trí tuệ nhân tạo.
Mê cung của trách nhiệm dân sự
Đây là lúc mọi chuyện trở nên nghiêm trọng. Theo truyền thống, ở Tây Ban Nha chúng ta tuân theo Điều 1902 của Bộ luật Dân sự, về cơ bản quy định rằng nếu bạn gây ra thiệt hại do lỗi hoặc sơ suất, bạn phải bồi thường. Nhưng tất nhiên, làm thế nào để chứng minh sự sơ suất của lập trình viên nếu hệ thống học được một hành vi không lường trước được thông qua học máy? Sự không rõ ràng về thuật toán này khiến mô hình trách nhiệm chủ quan cổ điển trở nên không đủ.
Cuộc chiến giữa tội lỗi và rủi ro
Hiện đang có cuộc tranh luận gay gắt về việc liệu chúng ta có nên chuyển sang mô hình trách nhiệm nghiêm ngặt hay không, đặc biệt là đối với AI có rủi ro cao. Theo hệ thống này, nạn nhân sẽ không phải vất vả chứng minh sự sơ suất của người khác; chỉ cần chứng minh rằng hệ thống đã gây ra thiệt hại và có mối liên hệ nhân quả là đủ. Điều này sẽ tương tự như các vụ tai nạn giao thông: rủi ro do người vận hành máy móc tạo ra, vì vậy họ phải chịu trách nhiệm bồi thường bất kể có "thiện chí xấu" hay không.
Trường hợp quan trọng của xe tự lái
Xe tự lái là ví dụ hoàn hảo cho tình thế khó xử này. Hiện tại, có một "giới hạn đỏ": chừng nào con người còn nắm quyền kiểm soát tối cao, người lái xe phải chịu trách nhiệm. Nhưng khi đạt được khả năng tự lái hoàn toàn, khung pháp lý sẽ phải thay đổi triệt để. Chúng ta không thể viện dẫn lỗi phần mềm là "sự kiện bất khả kháng" để miễn trừ trách nhiệm cho chủ sở hữu nữa. Có thể chúng ta sẽ thấy bảo hiểm trách nhiệm dân sự bắt buộc và việc thành lập các quỹ bảo đảm để đảm bảo những người bị ảnh hưởng không bị bỏ rơi mà không được bồi thường.
Đạo luật về Trí tuệ Nhân tạo và Chiến lược của Liên minh Châu Âu
Liên minh châu Âu đã thực hiện bước đi đầu tiên với Quy định về Trí tuệ Nhân tạo (Đạo luật AI), quy định toàn diện đầu tiên trên thế giới về chủ đề này. Quy định này không trực tiếp đề cập đến trách nhiệm dân sự (điều đó được dành cho các chỉ thị cụ thể), nhưng nó thiết lập một hệ thống quản trị trước khi thực hiện . Nó phân loại AI theo mức độ rủi ro: từ rủi ro không thể chấp nhận được (bị cấm) đến rủi ro cao, bao gồm các lĩnh vực như y tế, giáo dục và quản lý cơ sở hạ tầng trọng yếu.
- Hệ thống có rủi ro cao: Họ phải đáp ứng các yêu cầu nghiêm ngặt về tính minh bạch, an ninh mạng và sự giám sát của con người.
- Giả định về mối quan hệ nhân quả: Đề xuất này nhằm tạo điều kiện thuận lợi cho việc chứng minh tội phạm đối với các nạn nhân, cho phép xem xét một số hành vi vi phạm Đạo luật AI. cáo buộc sơ suất.
- Quyền được lãng quên và GDPR: Việc xử lý dữ liệu cá nhân vẫn tuân thủ GDPR, đảm bảo rằng bất kỳ hành vi lạm dụng thông tin cá nhân nào thông qua AI đều sẽ dẫn đến việc bồi thường thích đáng.
Nghĩa vụ tránh thảm họa
Để tránh phải trả khoản bồi thường khổng lồ, một công ty phải thực hiện các biện pháp tuân thủ pháp luật và thành lập các ủy ban đạo đức . Hệ thống chỉ hoạt động tốt thôi là chưa đủ; nó phải có khả năng kiểm toán và minh bạch. Việc phòng ngừa bao gồm loại bỏ sự thiên vị trong dữ liệu đào tạo và đảm bảo luôn có người trực tiếp vô hiệu hóa chức năng trong trường hợp khẩn cấp. Việc không tuân thủ các yêu cầu thẩm định này sẽ là yếu tố then chốt trong các vụ kiện tụng trong tương lai để xác định ai phải chịu trách nhiệm bồi thường thiệt hại.
Quá trình chuyển đổi hướng tới một thị trường kỹ thuật số thống nhất đòi hỏi các quy tắc phải giống nhau đối với tất cả mọi người ở châu Âu, ngăn chặn một số công ty tìm nơi trú ẩn tại các thiên đường pháp lý với các yêu cầu ít nghiêm ngặt hơn. Xu hướng này rất rõ ràng: giảm bớt gánh nặng chứng minh cho người dân và tăng trách nhiệm cho các nhà điều hành và nhà sản xuất, những người thực sự thu lợi từ việc khai thác các công nghệ này.
Khung pháp lý đang hướng tới sự hài hòa, trong đó an toàn và đạo đức không phải là tùy chọn mà là yêu cầu bắt buộc để tham gia thị trường. Sự kết hợp giữa trách nhiệm pháp lý nghiêm ngặt đối với các hệ thống nguy hiểm nhất, cùng với bảo hiểm bắt buộc và sự giám sát chặt chẽ của con người, nhằm đảm bảo sự đổi mới tiếp tục diễn ra đồng thời ngăn chặn chi phí tiến bộ đổ dồn lên vai những người dùng dễ bị tổn thương nhất.
