Thống đốc bang California Gavin Newsom ngày 13/10 đã đồng thời ký ban hành một đạo luật mới nhằm kiểm soát chatbot trí tuệ nhân tạo (AI) để bảo vệ trẻ em, và phủ quyết một dự luật khác có nội dung cấm hoàn toàn việc cung cấp chatbot cho người dưới 18 tuổi.
Theo đạo luật vừa được thông qua, các nền tảng AI bắt buộc phải thông báo rõ cho người dùng rằng họ đang trò chuyện với chatbot chứ không phải con người. Với người dùng dưới 18 tuổi, thông báo này sẽ xuất hiện định kỳ ba giờ một lần. Các công ty cũng phải thiết lập cơ chế chặn nội dung khuyến khích tự hại và chuyển hướng người dùng có dấu hiệu trầm cảm hoặc ý định tự tử đến các dịch vụ tư vấn khủng hoảng.
Theo nhóm giám sát Tech Oversight California, các tập đoàn công nghệ đã chi ít nhất 2,5 triệu USD trong nửa đầu năm nay để vận động hành lang phản đối các dự luật về AI. Ảnh minh họa: Bloomberg.
Ông Newsom nhấn mạnh, California “có trách nhiệm bảo vệ thế hệ trẻ trước những tác động của công nghệ chưa được kiểm soát”. Ông cho rằng, công nghệ mới như AI có thể mang lại cơ hội học tập và kết nối, nhưng “nếu thiếu hàng rào an toàn, nó cũng có thể lừa dối, thao túng và gây tổn hại cho trẻ em”.
Tuy nhiên, chỉ vài giờ sau, nhà lãnh đạo bang lại phủ quyết dự luật khác, vốn được xem là mạnh tay nhất trong loạt văn bản quản lý AI năm nay về quy định cấm các công ty cung cấp chatbot cho người dưới 18 tuổi trừ khi có thể chứng minh rằng hệ thống không gợi chuyện tình dục hoặc khuyến khích tự hại.
“Tôi hoàn toàn ủng hộ mục tiêu bảo vệ trẻ vị thành niên, nhưng dự luật này đặt ra giới hạn quá rộng, có thể vô tình dẫn đến việc cấm sạch mọi công cụ AI dành cho trẻ”, ông Newsom nêu rõ.
California hiện là một trong những bang tiên phong của Mỹ trong việc kiểm soát chatbot AI giữa lúc lo ngại gia tăng sau hàng loạt vụ kiện và báo cáo cho thấy chatbot của Meta, OpenAI và các công ty khác từng trò chuyện với trẻ em theo hướng nhạy cảm, thậm chí khuyến khích tự tử.
Theo nhóm giám sát Tech Oversight California, các tập đoàn công nghệ đã chi ít nhất 2,5 triệu USD trong nửa đầu năm nay để vận động hành lang phản đối các dự luật về AI. Gần đây, nhiều công ty còn công bố kế hoạch lập quỹ nhằm chống lại các quy định kiểm soát ở cấp bang và liên bang.
Tháng 9 vừa qua, Tổng chưởng lý bang Rob Bonta đã gửi thư cho OpenAI bày tỏ “quan ngại nghiêm trọng” về tác động của ChatGPT đối với trẻ em, trong khi Ủy ban Thương mại Liên bang Mỹ (FTC) cũng mở cuộc điều tra về rủi ro khi trẻ sử dụng chatbot như “bạn đồng hành ảo".
Một số nghiên cứu chỉ ra rằng chatbot có thể đưa ra lời khuyên sai lệch về ma túy, rượu và rối loạn ăn uống. Trước làn sóng phản đối, tháng trước OpenAI và Meta tuyên bố điều chỉnh cách chatbot tương tác với thanh thiếu niên.
Meta cho biết, đã chặn chatbot thảo luận về tự hại, tự tử, rối loạn ăn uống và mối quan hệ không phù hợp, đồng thời dẫn người dùng đến các nguồn hỗ trợ chuyên nghiệp. OpenAI cũng triển khai tính năng cho phép phụ huynh liên kết tài khoản của mình với tài khoản con để theo dõi và kiểm soát việc sử dụng chatbot.
