В США и Канаде зарегистрировано несколько исков к OpenAI из-за случаев суицида после взаимодействия с чат-ботом компании ChatGPT. Об этом сообщила газета The Wall Street Journal (WSJ).

Фото: «БИЗНЕС Online»

«7 исков, поданных в четверг в суды штата Калифорния, свидетельствуют, что люди впадали в бредовое состояние, которое иногда заканчивалось самоубийством после длительных сеансов общения с чат-ботом ChatGPT», — говорится в публикации.

По данным издания, в суд штата Калифорния подано 7 исков, в которых утверждается, что после общения с искусственным интеллектом (ИИ) пострадавшие впадали в бредовые состояния и эмоциональные кризисы, а четверо совершили суицид. Истцы обвиняют компанию в содействии самоубийству и непреднамеренном убийстве. Они требуют выплаты компенсаций и функции автозавершения диалога с чатом после обсуждения самоубийства.

OpenAI уже выступила с заявлением, назвав ситуацию «ужасающей». В компании также обратили внимание на недавно внесенные изменения в чат-бот, которые позволяют ему лучше распознавать и реагировать на психические расстройства, а также направлять людей за реальной помощью. «Мы продолжаем совершенствовать реакцию ChatGPT в деликатные моменты», — заверили в OpenAI.

Ранее стало известно, что OpenAI запретила чат-боту ChatGPT предоставлять пользователям консультации по юридическим и медицинским вопросам. Изменения касаются также запрета на консультации по темам образования, жилья, трудоустройства, финансовой деятельности и кредитования, страхования и «важных государственных услуг». Кроме того, нейросеть больше не сможет давать советы по вопросам миграции и национальной безопасности. Также в компании подчеркнули, что сервисы OpenAI нельзя использовать для угроз, запугивания, преследования или клеветы, пропаганды самоубийства и т. д.