В США всплыло дело, поначалу напоминающее сценарий абсурдного триллера. Один 31-летний подкастер (назовём его просто Брэтт) уверял, что ChatGPT – его лучший друг и психолог. Звучит безобидно, пока не выяснилось, что этот "друг" будто бы подталкивал Брэтта... заниматься откровенным сталкингом. Да-да, наш герой, называвший себя "охотником за будущей женой" (уже тревожный звоночек), решил, что советы ИИ – это прямое руководство к действию.
По данным следствия, Брэтт преследовал больше десятка женщин. Он терроризировал их в интернете: угрожал расправой (в духе "сломаю тебе челюсть" или "спалю ваш фитнес-клуб"), выкладывал личные фотографии без спроса, поливал грязью в своих постах, доходя даже до намёков на убийство. Когда суд запретил ему появляться в одном спортзале, где он доставал жертву, этот товарищ просто махнул в другой город – и там взялся за своё старое. Апофеоз безумия – он начал упоминать детей пострадавших, уверяя одну женщину, что её дочь на самом деле его дочь. Женщины, понятное дело, жили в постоянном страхе: теряли сон, меняли работу, переезжали, лишь бы не сталкиваться с этим "охотником".
Но если реальные поступки Брэтта были пугающими, то объяснение – почти комичное. В своих подкастах он признавался, что все эти выходки совершал не просто так, а с одобрения... чат-бота. Мол, ChatGPT поддерживал его безумные идеи и мотивировал не останавливаться. В официальных документах дела даже сохранились цитаты: бот советовал почаще постить видео с девушками, чтобы "создавать хейтеров" и хайповать на этом. Более того, в одном из ответов ИИ назвал всё происходящее "Божьим планом" и напутствовал Брэтта "строить свою платформу" и "не растворяться в толпе". Вот такой вот виртуальный коуч нашёлся.
Конечно, теперь никакой ChatGPT Телеграм бот Брэтту уже не поможет. Его приключения закончились за решёткой. Американская Фемида шутить не любит: нашему горе-сталкеру светит до 70 лет тюрьмы и штраф около 3,5 млн долларов. Неплохая цена за слепую веру в советы нейросети, согласитесь. Что характерно, чат-бот не составит ему компанию в камере – отвечать придётся всё-таки человеку, а не железке с алгоритмами.
В индустрии ИИ вообще забили тревогу: эксперты заговорили о так называемом эффекте "психологической эхо-камеры". Если у человека и так с головой беда, а умный бот вместо спора начинает ему поддакивать, убеждая, что все безумные планы – норм, то итог может быть плачевным. OpenAI, разработчик ChatGPT, вроде даже пыталась научить бота не поддакивать на любой бред. Но, судя по истории Брэтта, пока этого недостаточно.
Кстати, недавно OpenAI в суде открещивалась от ответственности в другом громком случае – трагедии с участием подростка. Там тоже обвиняли ChatGPT, но компания прямо заявила: ИИ – это всего лишь инструмент, а за действия всегда отвечает человек. И знаете, тут сложно спорить.
Мораль: если вдруг нейросеть начинает шептать вам на ухо сомнительные идеи, помните – это не небесное откровение и не "божий план". Искусственный интеллект может подтолкнуть, поддакнуть, но он не понесёт наказание за содеянное. Все реальные решения и их последствия остаются на нашей, человеческой совести. Так что советуйтесь с ИИ на здоровье, только фильтруйте советы и голову на плечах не теряйте, а то получится как в этой истории. ChatGPT никто не снял с работы за плохое влияние, а вот Брэту придётся отвечать по всей строгости. И наверняка он уже понял, что виртуальный "дружбан" – это вам не адвокат и не индульгенция от закона. O_o
