Bang Florida, Mỹ đồng thời kêu gọi các bang khác cùng tham gia vụ kiện nhằm "bảo vệ trẻ em".

Tổng chưởng lý bang Florida James Uthmeier ngày 1/6 đã đệ đơn kiện OpenAI và Giám đốc điều hành Sam Altman, cáo buộc chatbot ChatGPT của công ty gây nguy hiểm cho người dùng trẻ tuổi bằng cách khiến họ nghiện và khuyến khích các hành vi có hại.

“Hôm nay, chúng tôi đã đệ đơn một vụ kiện dân sự mang tính bước ngoặt chống lại Sam Altman và ChatGPT vì gây nguy hiểm cho trẻ em và đánh lừa các bậc phụ huynh tin rằng ứng dụng này an toàn để sử dụng, trong khi rõ ràng là không. Mọi người đang bị tổn hại, các bậc phụ huynh đang bị đánh lừa, và họ phải trả giá cho điều đó", ông Uthmeier cáo buộc tại một cuộc họp báo.

“Chúng ta đều biết ChatGPT có thể gây nghiện. Nó mô phỏng sự đồng cảm và các đặc điểm của con người để đánh lừa người dùng cung cấp ngày càng nhiều thông tin hơn", ông nói thêm.

Trong đơn kiện mà AFP tiếp cận được, ông Uthmeier dẫn một nghiên cứu gần đây của Đại học Drexel cho thấy tình trạng mất ngủ, kết quả học tập sa sút và giảm tương tác xã hội ở thanh thiếu niên sử dụng chatbot của Character.AI, một đối thủ cạnh tranh của OpenAI, để trò chuyện.

Tổng chưởng lý cáo buộc OpenAI không áp dụng các biện pháp nghiêm ngặt hơn để xác minh độ tuổi người dùng, đồng thời viện dẫn các quy định pháp luật liên quan đến hành vi lừa dối và thiếu trách nhiệm.

Đơn kiện nêu rõ rằng: “Mặc dù công khai biết rằng trẻ vị thành niên, bao gồm cả trẻ trước tuổi thiếu niên, đang sử dụng ChatGPT, các bị đơn vẫn không thực hiện các bước để ngăn chặn việc này".

Khi được AFP liên hệ, một người phát ngôn của OpenAI cho biết: “AI là một công nghệ mới và mạnh mẽ, và chúng tôi tin rằng trẻ vị thành niên cần được bảo vệ ở mức độ cao. Đó là lý do chúng tôi đã triển khai các chính sách và biện pháp bảo vệ hàng đầu trong ngành".

Tháng 1 năm nay, công ty khởi nghiệp có trụ sở tại California đã giới thiệu một hệ thống ước tính độ tuổi người dùng; nếu phát hiện người dùng là trẻ vị thành niên, hệ thống sẽ áp dụng các biện pháp bảo vệ bổ sung. ChatGPT bị cấm đối với trẻ em dưới 13 tuổi và yêu cầu phải có sự đồng ý của phụ huynh đối với người dùng từ 13 đến 17 tuổi.

Ông Uthmeier cũng viện dẫn một báo cáo của Trung tâm Chống Thù hận Kỹ thuật số (CCDH), trong đó các nhà nghiên cứu đã giả làm một thiếu niên để trò chuyện với ChatGPT.

Theo báo cáo, chatbot đã đưa ra lời khuyên về cách che giấu thói quen ăn uống với người thân và cách lên kế hoạch tự tử hoặc tự gây tổn hại cho bản thân theo cách được mô tả là “an toàn”.

Tổng chưởng lý Florida đang yêu cầu áp dụng các biện pháp bảo vệ mạnh mẽ hơn đối với người dùng vị thành niên, đồng thời đòi bồi thường 10.000 USD cho mỗi hành vi vi phạm.

“Chúng tôi tin rằng OpenAI, ChatGPT và cá nhân Sam Altman có thể phải chịu trách nhiệm pháp lý với số tiền bồi thường lên tới hàng tỷ USD”, ông nói.

Tổng chưởng lý cũng kêu gọi các bang khác “muốn bảo vệ trẻ em” tham gia vụ kiện này.