Trí tuệ nhân tạo (AI) nói chung và các chatbot như ChatGPT ngày càng chứng minh vai trò hữu ích trong nhiều lĩnh vực của đời sống. Tuy nhiên, đằng sau sự phát triển nhanh chóng này vẫn tồn tại những rủi ro nghiêm trọng, đặc biệt khi công nghệ bị lợi dụng cho mục đích nguy hiểm.

Một thảm kịch xảy ra tại Canada mới đây đã làm dấy lên nhiều tranh cãi về trách nhiệm của các công ty công nghệ trong việc giám sát và kiểm soát nội dung liên quan đến bạo lực.

Thảm kịch xả súng tại Tumbler Ridge

Theo thông tin từ cơ quan chức năng, ngày 10/2, thanh niên 18 tuổi Jesse Van Rootselaar đã lấy hai khẩu súng tại nhà riêng ở thị trấn Tumbler Ridge thuộc tỉnh British Columbia (Canada) và sát hại chính mẹ ruột cùng em trai 11 tuổi.

Thị trấn Tumbler Ridge thuộc tỉnh British Columbia

Sau đó, nghi phạm tiếp tục di chuyển tới Trường Trung học Tumbler Ridge và thực hiện vụ xả súng khiến năm học sinh cùng một giáo viên thiệt mạng. Hai học sinh khác bị thương, trong đó có nữ sinh Gebala. Giới chức cho biết Van Rootselaar sau đó đã tử vong do vết thương do chính mình gây ra. Quá trình điều tra của báo The New York Times cho thấy nghi phạm từng nhiều lần thể hiện sự ám ảnh với bạo lực và vũ khí trên các tài khoản mạng xã hội cá nhân.

Gia đình nạn nhân khởi kiện OpenAI

Sau vụ việc, gia đình một nạn nhân bị thương nặng đã khởi kiện công ty AI đứng sau chatbot ChatGPT là OpenAI. Đơn kiện do bà Cia Edmonds – mẹ của nữ sinh Maya Gebala – đệ trình, cáo buộc công ty đã không cảnh báo cơ quan chức năng dù có những dấu hiệu đáng lo ngại từ tài khoản ChatGPT của nghi phạm.

Gia đình nạn nhân khởi kiện OpenAI

Theo hồ sơ khởi kiện, Van Rootselaar được cho là đã sử dụng chatbot AI để xây dựng các kịch bản liên quan đến bạo lực súng đạn, bao gồm cả các tình huống gây thương vong hàng loạt. Gia đình nạn nhân cho rằng công ty đã “nhận thức được ý định bạo lực” nhưng không có hành động cảnh báo phù hợp. Đại diện pháp lý của gia đình, hãng luật Rice Parsons Leoni and Elliott LLP, cho biết mục tiêu của vụ kiện là làm rõ toàn bộ sự thật về cách thức và nguyên nhân dẫn tới vụ xả súng tại Tumbler Ridge.

Nạn nhân chịu thương tích nghiêm trọng

Theo đơn kiện, nữ sinh Maya, 12 tuổi, bị bắn ba phát trong vụ tấn công. Một viên đạn trúng vùng đầu phía trên mắt trái, một viên xuyên qua cổ và viên còn lại sượt qua má cùng một phần tai. Hiện nạn nhân vẫn đang điều trị tại bệnh viện với chấn thương sọ não nghiêm trọng, bị liệt nửa người bên phải và phải đối mặt với những di chứng vĩnh viễn về thể chất cũng như nhận thức.

Gia đình em cũng đang chịu ảnh hưởng tâm lý nặng nề. Mẹ và chị gái của Maya được cho là mắc các triệu chứng rối loạn căng thẳng sau sang chấn (PTSD), lo âu, trầm cảm và rối loạn giấc ngủ.

OpenAI từng đình chỉ tài khoản của nghi phạm

Phía OpenAI cho biết họ đã đình chỉ một tài khoản ChatGPT của Van Rootselaar khoảng 8 tháng trước khi vụ tấn công xảy ra do vi phạm thỏa thuận sử dụng. Theo công ty, hệ thống tự động đã phát hiện những nội dung đáng ngờ và đội ngũ kiểm duyệt đã tiến hành đánh giá thủ công trước khi quyết định khóa tài khoản.

Tuy nhiên, dù từng cân nhắc việc báo cáo cho cơ quan chức năng Canada, công ty cho rằng các tin nhắn chưa đạt đến ngưỡng cần thiết để báo cáo vì chưa thể xác định rõ nguy cơ về một vụ tấn công sắp xảy ra. OpenAI cũng cho biết sau khi tài khoản đầu tiên bị khóa, nghi phạm đã tạo một tài khoản ChatGPT khác để tiếp tục sử dụng dịch vụ.

Áp lực từ chính quyền và cộng đồng

Giám đốc điều hành OpenAI, Sam Altman

Sau vụ việc, Giám đốc điều hành OpenAI, Sam Altman, đã tham gia cuộc họp trực tuyến với Thủ hiến British Columbia, ông David Eby, cùng Thị trưởng Tumbler Ridge, ông Darryl Krakowka. Phát biểu sau cuộc họp, ông Eby cho rằng lời xin lỗi là cần thiết nhưng không đủ để giải quyết những lo ngại của cộng đồng. Chính quyền địa phương đang yêu cầu các công ty công nghệ xem xét lại chính sách liên quan đến việc báo cáo nội dung bạo lực tiềm ẩn cho cơ quan chức năng.

Người phát ngôn của OpenAI gọi vụ việc là “thảm kịch không thể diễn tả bằng lời”, đồng thời cho biết công ty cam kết hợp tác với các cơ quan quản lý để tìm ra giải pháp nhằm ngăn chặn những sự việc tương tự trong tương lai.

Tranh cãi về ranh giới giữa quyền riêng tư và an toàn xã hội

Vụ xả súng tại Tumbler Ridge đã làm dấy lên một câu hỏi lớn đối với ngành công nghệ: đâu là ranh giới giữa việc bảo vệ quyền riêng tư của người dùng và trách nhiệm cảnh báo chính quyền khi phát hiện dấu hiệu nguy hiểm. Trong bối cảnh trí tuệ nhân tạo ngày càng mạnh mẽ, nhiều chuyên gia cho rằng các công ty phát triển AI cần xây dựng cơ chế giám sát và phản ứng hiệu quả hơn để hạn chế nguy cơ công nghệ bị lợi dụng cho các hành vi bạo lực. Thảm kịch này một lần nữa cho thấy dù sức mạnh tính toán của máy móc ngày càng phát triển, các hệ thống hiện tại vẫn chưa đủ khả năng tự động ngăn chặn những hành vi nguy hiểm trước khi chúng xảy ra.

- Trích nguồn: Vietnamplus