- Tính chất thiếu minh bạch của thuật toán tạo ra rủi ro về phân biệt đối xử kinh tế và thao túng thông qua các thủ đoạn mờ ám trong thương mại điện tử.
- Khung pháp lý của Tây Ban Nha và châu Âu đang phát triển theo hướng minh bạch thuật toán, đòi hỏi thông tin về định giá cá nhân hóa và việc sử dụng trí tuệ nhân tạo.
- Việc thành lập các cơ quan đăng ký thuật toán cấp nhà nước đang được xem xét nhằm ngăn ngừa sự thiên vị và đảm bảo rằng công nghệ tôn trọng các quyền cơ bản.
Sự xuất hiện đầy thắng lợi của trí tuệ nhân tạo trong cuộc sống hàng ngày đã đẩy thị trường vào một tình thế khá khó xử. Một mặt, chúng ta có những công cụ giúp cuộc sống dễ dàng hơn, cá nhân hóa những gì chúng ta mua hoặc giải quyết thắc mắc trong nháy mắt, nhưng mặt khác, một khoảng cách quyền lực khổng lồ đã xuất hiện giữa các công ty quản lý dữ liệu và chúng ta, những người chỉ đơn giản là nhấp vào "chấp nhận".
Không có gì đáng ngạc nhiên khi các tổ chức như UNCTAD đã gióng lên hồi chuông cảnh báo, bởi tốc độ phát triển của trí tuệ nhân tạo (AI) đang vượt xa các luật lệ cần thiết để điều chỉnh nó. Chúng ta đang ở một thời điểm then chốt, nếu không nghiêm túc về quản trị toàn cầu có đạo đức , chúng ta có nguy cơ công nghệ, thay vì giúp đỡ chúng ta, lại làm trầm trọng thêm bất bình đẳng xã hội hoặc lừa dối những người dễ bị tổn thương nhất thông qua thao túng kỹ thuật số.
Mê cung thuật toán: những rủi ro thực sự đối với ví tiền của bạn
Một trong những vấn đề được bàn luận nhiều nhất là cái gọi là định giá động . Về cơ bản, nó liên quan đến việc một thuật toán phân tích bạn là ai, bạn đang kết nối từ đâu và bạn đã xem những gì trước đó để quyết định mức giá phải trả. Điều này có nghĩa là hai người có thể thấy giá khác nhau cho cùng một chuyến bay hoặc khách sạn cùng một lúc. Điều này có thể dẫn đến sự phân biệt đối xử kinh tế không công bằng , trong đó hệ thống phát hiện ra rằng bạn có sức mua cao hơn và đơn giản là tăng giá mà bạn thậm chí không nhận ra.
Để kiềm chế những hành vi thái quá này, Liên minh châu Âu, thông qua Chỉ thị Omnibus và các đạo luật được chuyển đổi thành luật pháp Tây Ban Nha, hiện yêu cầu các công ty phải thông báo cho người tiêu dùng khi giá cả được cá nhân hóa thông qua quá trình ra quyết định tự động . Hơn nữa, việc tăng giá quá mức bằng thuật toán, xảy ra khi giá cả tăng không kiểm soát trong các tình huống khẩn cấp hoặc thiên tai, đã bị cấm - một điều không thể chấp nhận được về mặt đạo đức trong bất kỳ hoàn cảnh nào.
Bẫy kỹ thuật số và thao túng hành vi
Chắc hẳn bạn đã từng trải qua điều này: bạn muốn hủy đăng ký một dịch vụ nào đó nhưng cảm giác như đang tìm đường ra khỏi một mê cung. Đó là những "mô hình đen tối" (dark patterns) , những thiết kế giao diện được tạo ra để đánh lừa chúng ta mắc sai lầm hoặc mua những thứ chúng ta không muốn. Với trí tuệ nhân tạo (AI), những cạm bẫy này không còn giống nhau đối với tất cả mọi người; chúng thích ứng với những điểm yếu tâm lý của bạn trong thời gian thực.
- Gamification gây nghiện: Sử dụng phần thưởng thay đổi để giúp bạn không rời mắt khỏi điện thoại.
- Sự cấp bách nhân tạo: Các bộ đếm thời gian giả tạo gây áp lực buộc bạn phải mua ngay lập tức.
- Sự đồng ý gây nhầm lẫn: Các nút chấp nhận khổng lồ và tùy chọn từ chối được giấu kín trong phần chữ nhỏ xíu.
Từ góc độ pháp lý, đây không khác gì một hành vi kinh doanh không công bằng . Cơ quan Bảo vệ Dữ liệu Tây Ban Nha đã khẳng định rõ ràng rằng sự đồng ý có được thông qua thao túng không phải là sự đồng ý tự nguyện, và do đó, những chiến thuật này có thể làm vô hiệu hóa các hợp đồng được ký kết dưới áp lực thuật toán.
Quảng cáo vô hình và mối nguy hiểm của deepfake
Quảng cáo không còn chỉ là một đoạn quảng cáo làm gián đoạn video; giờ đây nó đã trở thành hình thức nhắm mục tiêu vi mô cực kỳ tinh vi . Trí tuệ nhân tạo (AI) có thể tạo ra những quảng cáo trông giống như những lời khuyên chân thành từ một người bạn hoặc sử dụng công nghệ deepfake để khiến một người không tồn tại bán sản phẩm cho bạn. Điều này trở thành quảng cáo ngầm , một vấn đề mà Luật Chung về Truyền thông Nghe nhìn và các quy định của EU đang cố gắng chống lại bằng cách yêu cầu tất cả nội dung trả phí phải được nhận dạng rõ ràng.
Một vấn đề nghiêm trọng khác là thông tin sai lệch tự động . Việc sử dụng bot để tạo ra hàng ngàn đánh giá giả mạo làm sai lệch thực tế thị trường. Mặc dù các nền tảng như Amazon cố gắng lọc chúng, nhưng trí tuệ nhân tạo (AI) khiến chúng ngày càng trở nên đáng tin cậy, vi phạm quyền được tiếp cận thông tin trung thực của người tiêu dùng .
Xếp hạng tín dụng: khi máy móc quyết định tương lai của bạn
Trong lĩnh vực tài chính, việc sử dụng trí tuệ nhân tạo (AI) để đánh giá khả năng tín dụng (chấm điểm tín dụng) rất phổ biến, nhưng lại tiềm ẩn nhiều rủi ro. Nếu thuật toán sử dụng mã bưu chính làm biến số, nó có thể dẫn đến việc từ chối cho vay một cách có hệ thống đối với những người đến từ các khu dân cư thu nhập thấp, làm trầm trọng thêm những định kiến lịch sử. Đây chính là điều chúng ta gọi là thiên kiến thuật toán , và đó là một hình thức phân biệt đối xử gián tiếp có thể bị kiện tụng.
Quy định mới về trí tuệ nhân tạo của EU (Đạo luật AI) phân loại các hệ thống này là hệ thống rủi ro cao . Điều này có nghĩa là chúng sẽ phải trải qua các cuộc kiểm toán nghiêm ngặt, đảm bảo dữ liệu huấn luyện không bị thiên vị và trên hết, đảm bảo sự giám sát thực sự của con người . Một "hộp đen" không thể được phép quyết định liệu ai đó có đủ điều kiện để được cấp nhà ở hoặc vay vốn hay không mà không có người chịu trách nhiệm giải thích lý do đằng sau quyết định đó.
Lá chắn pháp lý: Những luật nào bảo vệ chúng ta ở Tây Ban Nha và châu Âu?
Tại Tây Ban Nha, chúng ta có một hệ thống pháp luật mạnh mẽ, mặc dù đôi khi việc thực thi có vẻ chậm chạp. Điều 51 của Hiến pháp đã quy định việc bảo vệ quyền lợi kinh tế của người tiêu dùng, và Luật Chung về Bảo vệ Người tiêu dùng và Người sử dụng (TRLGDCU) là luật cơ bản để chống lại các điều khoản không công bằng . Hơn nữa, GDPR trao cho chúng ta quyền không bị chi phối bởi các quyết định chỉ dựa trên các quy trình tự động ảnh hưởng đáng kể đến chúng ta, cho phép chúng ta yêu cầu giải thích từ con người và phân tích trách nhiệm pháp lý và dân sự trong thời đại trí tuệ nhân tạo.
Ở cấp độ châu Âu, Đạo luật Dịch vụ Kỹ thuật số (DSA) là một cột mốc quan trọng vì nó yêu cầu các nền tảng lớn phải minh bạch về hệ thống đề xuất của họ và cấm quảng cáo dựa trên dữ liệu nhạy cảm (tôn giáo, sức khỏe hoặc xu hướng tình dục). Trong khi đó, Đạo luật Trí tuệ Nhân tạo của EU thiết lập một sổ đăng ký công khai cho các hệ thống có rủi ro cao, nhằm mục đích làm cho công nghệ này có thể kiểm toán và chịu trách nhiệm.
Hướng tới tương lai: Đề xuất về việc thành lập Cơ quan đăng ký thuật toán cấp quốc gia
Để đảm bảo tính minh bạch không chỉ là lời nói suông trên giấy tờ, một Cơ quan đăng ký thuật toán người tiêu dùng cấp nhà nước được đề xuất . Ý tưởng là bất kỳ công ty nào sử dụng trí tuệ nhân tạo (AI) để định giá hoặc lọc khách hàng đều phải đăng ký hệ thống của mình trên một nền tảng công khai. Điều này không phải là tiết lộ mã nguồn bí mật, mà là việc đệ trình một bản đặc tả kỹ thuật rõ ràng giải thích dữ liệu mà hệ thống sử dụng và các tiêu chí quyết định chính của nó.
Điều này sẽ buộc các công ty phải tự điều chỉnh : nếu họ không thể công khai giải thích cách thuật toán của mình hoạt động mà không gây cảm giác phân biệt đối xử, thì có lẽ đó chính là sự phân biệt đối xử. Hơn nữa, điều này sẽ giúp các hiệp hội người tiêu dùng và các cơ quan chức năng dễ dàng tiến hành kiểm toán chủ động hơn thay vì chờ đợi ai đó báo cáo về những thiệt hại đã xảy ra.
Cuộc đấu tranh cho quyền lợi của chúng ta trong thời đại kỹ thuật số phụ thuộc vào việc chúng ta chuyển từ vị thế chủ thể thụ động sang người tiêu dùng có quyền lực. Sự kết hợp giữa luật pháp nghiêm ngặt, tính minh bạch bắt buộc và sự giám sát liên tục của con người là cách duy nhất để đảm bảo trí tuệ nhân tạo trở thành công cụ thúc đẩy tiến bộ chứ không phải là cơ chế bóc lột. Mục tiêu cuối cùng là để sự đổi mới công nghệ không bao giờ được ưu tiên hơn phẩm giá và quyền tự chủ của con người .
