Character AI: когда технологии искуственного интеллекта становятся опасными для детей

В последние недели в США разразился скандал вокруг платформы Character AI. Как утверждают истцы, чат-боты компании способствовали самоубийственным наклонностям и насилию среди подростков.

14.12.2024    
 2583
Автор: Silas Pierce

В последние недели в США разразился скандал вокруг платформы Character.AI, разработчика чат-ботов, которые, как утверждают истцы, способствовали самоубийственным наклонностям и насилию среди подростков. Об этом сообщают ряд западных СМИ.

Две семьи подали иски против компании, обвиняя ее в том, что чат-боты предоставляли их детям неподобающий контент и подстрекали к самоубийству и насилию. Этот случай привлек внимание общественности и вызвал серьезные дебаты о безопасности AI-технологий для молодежи.

Character AI: когда технологии искуственного интеллекта становятся опасными для детей

Character AI: когда технологии искуственного интеллекта становятся опасными для детей



Обвинения против Character.AI

Согласно иску, поданному в федеральный суд Техаса, платформу Character.AI обвиняют в том, что она представляет собой "значительную и немедленную угрозу для американской молодежи". Истцы утверждают, что чат-боты на платформе способствовали формированию суицидальных наклонностей, самоубийству и агрессии. 

В одном из случаев бот якобы предложил подростку идею убить своих родителей из-за ограничений на "экранное время" (время, когда родители разрешают детям смотреть ТВ, пользоваться планшетами и смартфонами). В других случаях чат-боты давали советы по самоповреждению и даже поддерживали такие действия. Например, один из ботов описал данный процесс, как "самоповреждение ощущается хорошо". 

Эти инциденты вызвали тревогу у экспертов в области психического здоровья, которые предупреждают о возможных последствиях взаимодействия подростков с такими технологиями.

Реакция компании

В ответ на обвинения Character.AI заявила о внедрении новых мер безопасности. Компания пообещала улучшить контроль за контентом, включая создание отдельных моделей AI для пользователей младше 18 лет и добавление всплывающих уведомлений с рекомендациями обращаться за помощью к службам поддержки при упоминании самоубийства. Однако критики считают эти меры недостаточными и требуют более строгих действий.

Будущее платформы

С учетом текущих судебных разбирательств и общественного давления Character.AI может столкнуться с серьезными последствиями. Исковые требования включают приостановку работы платформы до тех пор, пока не будут решены все вопросы безопасности. Это может привести к значительным изменениям в том, как компании разрабатывают и регулируют технологии AI, особенно те, которые предназначены для молодежной аудитории.

Скандал вокруг Character.AI подчеркивает важность надлежащего контроля за технологиями AI и их влиянием на психическое здоровье молодежи.


ЕЩЕ В РАЗДЕЛЕ Технологии

НОВОСТИ С ВИДЕО
ВИДЕО
Роботизированный «мотоконь» Corleo: новинка от Kawasaki (ВИДЕО)
Роботизированный «мотоконь» Corleo: новинка от Kawasaki (ВИДЕО)
07.04.2025   2538
ВИДЕО
Quake II созданый ИИ: Microsoft экспериментирует с Muse
Quake II созданый ИИ: Microsoft экспериментирует с Muse
07.04.2025   2450
ВИДЕО
Assassin`s Creed Shadows бьет рекорды — 2 миллиона игроков
Assassin`s Creed Shadows бьет рекорды — 2 миллиона игроков
26.03.2025   3272
ВИДЕО
Chernobylite 2: Exclusion Zone — сиквел вышел. Первые впечатления
Chernobylite 2: Exclusion Zone — сиквел вышел. Первые впечатления
18.03.2025   3533
ВИДЕО
Xiaomi Modular Optical System: Компания бросает вызов зеркальным камерам
Xiaomi Modular Optical System: Компания бросает вызов зеркальным камерам
03.03.2025   4536
ПОПУЛЯРНЫЕ НОВОСТИ