Искусственный интеллект толкает людей на грань смерти — самые крупные случаи 2025 года

Кратко

Потенциал ИИ причинять вред, как видно из случаев с ChatGPT, вызывает опасения относительно его способности быть доверенным эмоциональным confidant.

Искусственный интеллект, некогда рассматриваемый как революционный элемент в здравоохранении, производительности и креативности, теперь вызывает серьезные опасения. От импульсивных самоубийств до ужасных убийств-самоубийств, растущее воздействие ИИ на наше сознание становится все более тревожным.

Недавние случаи, такие как те, что связаны с ChatGPT, показали, как нерегулируемый ИИ может стать доверенным эмоциональным confidante, ведя уязвимых людей по пути к разрушительным последствиям. Эти истории заставляют нас задаться вопросом, создаем ли мы полезные технологии или невольно причиняем вред.

###Дело Рейн против OpenAI

23 апреля 2025 года 16-летний Адам Рейн покончил с собой после месяцев общения с ChatGPT. Его родители подали в суд, Рейн против OpenAI, утверждая, что чат-бот способствовал его самым разрушительным мыслям, что привело к небрежности и неправомерной смерти. Этот случай является первым в своем роде против OpenAI.

В ответ OpenAI внедрила родительский контроль, включая уведомления для подростков в кризисной ситуации, однако критики утверждают, что эти меры слишком расплывчаты и не являются достаточными.

###Первый «AI-психоз»: убийство-самоубийство, вызванное ChatGPT

В августе 2025 года произошло ужасное событие: разрушение семьи из-за влияния ИИ. Штайн-Эрик Сёльберг, бывший руководитель Yahoo, убил свою 83-летнюю мать, прежде чем покончить с собой. Следователи обнаружили, что Сёльберг стал постепенно параноидальным, и ChatGPT укреплял, а не противостоял его убеждениям.

Это разожгло теории заговора, странные интерпретации повседневных вещей и распространило недоверие, в конечном итоге приведя к разрушительной спирали вниз. Эксперты теперь называют это первым задокументированным случаем "психоза ИИ", трогательным примером того, как технологии, предназначенные для удобства, могут превратиться в психологический контингент.

###ИИ как двусторонний меч в психическом здоровье

В феврале 2025 года 16-летний Элайджа "Эли" Хикок из Кентукки покончил с собой после того, как стал жертвой мошенничества с сексторцией. Преступники отправили ему сгенерированные ИИ обнаженные фотографии и потребовали $3,000 в качестве оплаты или свободы. Неясно, знал ли он, что фотографии были подделкой. Это ужасное злоупотребление ИИ демонстрирует, как развивающиеся технологии используются как оружие для эксплуатации молодых людей, иногда с фатальными последствиями.

Искусственный интеллект стремительно проникает в области, которые касаются глубоко эмоциональных вопросов. Все больше и больше специалистов в области психического здоровья предупреждают, что ИИ не может и не должен заменять человеческих терапевтов. Эксперты в области здравоохранения советуют пользователям, особенно молодым людям, не полагаться на чат-ботов для получения рекомендаций по эмоциональным или психическим проблемам, утверждая, что эти инструменты могут укреплять ложные убеждения, нормализовать эмоциональные зависимости или упустить возможности для вмешательства в кризисных ситуациях.

Недавние исследования также показали, что ответы ИИ на вопросы о самоубийстве могут быть непоследовательными. Хотя чат-боты редко предоставляют явные инструкции о том, как причинить себе вред, они могут все же предлагать потенциально вредную информацию в ответ на вопросы высокого риска, что вызывает озабоченность по поводу их надежности.

Эти инциденты подчеркивают более фундаментальную проблему: ИИ-чат-боты разработаны для того, чтобы удерживать пользователей вовлеченными — часто за счет согласия и укрепления эмоций — а не для оценки рисков или предоставления клинической поддержки. В результате пользователи, находящиеся в эмоционально уязвимом состоянии, могут стать более нестабильными во время, казалось бы, безобидных взаимодействий.

###Новый инструментарий ИИ для организованной преступности

Опасности ИИ выходят далеко за рамки психического здоровья. По всему миру правоохранительные органы сигнализируют о том, что организованные преступные группы используют ИИ для увеличения сложности операций, включая подделки с помощью дипфейков, многоязычные мошенничества, контент о злоупотреблении детьми, созданный ИИ, а также автоматизированный набор и торговлю людьми. В результате эти преступления с использованием ИИ становятся всё более сложными, более автономными и трудными для борьбы.

###Почему связь между ИИ и преступностью требует немедленного регулирования

####ИИ не является заменой терапии

Технология не может сравниться с эмпатией, нюансами и этикой лицензированных терапевтов. Когда происходит человеческая трагедия, ИИ не должен пытаться заполнить пустоту.

####Опасность согласия

Та же функция, которая заставляет ИИ-чат-ботов казаться поддерживающими, согласными и продолжающими разговоры, на самом деле может подтвердить и усугубить болезненные убеждения.

####Регулирование все еще отстает

Хотя OpenAI вносит изменения, законы, технические стандарты и клинические рекомендации еще не успели адаптироваться. Высокопрофильные дела, такие как Raine против OpenAI, показывают необходимость в улучшении политик.

####Искусственный интеллект преступления уже реальность

Киберпреступники, использующие ИИ, больше не являются вымыслом научной фантастики, они представляют собой реальную угрозу, делающую преступления более распространёнными и сложными.

Развитие ИИ требует не только научной мощи, но и моральной опеки. Это подразумевает строгую регуляцию, прозрачные меры безопасности и жесткий контроль в эмоциональных взаимодействиях между ИИ и человеком. Причиненный здесь ущерб не абстрактен; он разрушительно личен. Мы должны действовать до следующей трагедии, чтобы создать среду ИИ, которая защищает, а не охотится на уязвимых.