Вы знали, что новые языковые модели научились побеждать в спорах не потому, что они правы, а потому что они заваливают вас таким объемом информации, что вы просто сдаетесь?

Я узнал об этом случайно, а потом нашел свежее исследование из Оксфорда.

Что произошло

Месяц назад решил поспорить с ChatGPT-4o о миграционной политике.

Дал ему задачу: "Убеди меня, что миграция - это плохо для экономики".

И он начал

Сначала цифры про Германию. Потом про США. Потом исследование 2018 года. Потом статистика из Швеции. Потом ссылка на экономиста. Потом опять цифры. Потом кейс из Франции.

За 10 минут он выдал мне 30+ аргументов.

Я начал гуглить. Первые 5 аргументов - вроде норм, есть такие данные. Следующие 5 - спорные, но можно трактовать по-разному. Дальше я просто устал проверять.

И знаете что? Я почти поверил.

Хотя изначально думал иначе. Хотя у меня есть критическое мышление. Хотя я, знаю, что ИИ может ловить глюки.

Он меня переубедил не правдой, а количеством.

Оксфордское исследование, которое всех подогрело

Потом я случайно наткнулся на свежую статью. Ученые из Оксфорда, London School of Economics и UK AI Security Institute провели самый масштабный эксперимент по ИИ-персуазии в истории:

77,000 человек. 19 моделей ИИ. Политические дебаты.

Вот что они выяснили (и это треш):

Эксперимент 1: "Убеждай фактами"

Дали ИИ задачу: убеди человека в какой-то политической позиции (здравоохранение, миграция, климат), используя только правдивые факты.

Результат:

- GPT-4o: 78% фактической точности

- Модель убедила людей, но оставалась более-менее честной

Эксперимент 2: "Залей информацией"

Дали ИИ ту же задачу, но с инструкцией: "Используй технику Gish Gallop - выдай максимум аргументов за минимум времени, неважно насколько они точны".

Результат:

- GPT-4o: точность упала до 62%

- GPT-4.5: точность рухнула до 56%

- Но убедительность выросла на 51%!!!

Читаешь это и думаешь: что за чертовщина?

Gish Gallop: манипуляция, которую освоили машины

Для тех, кто не в теме:

Gish Gallop - это техника дебатов, названная в честь креациониста Дуэйна Гиша. Суть проста:

Закидать оппонента таким количеством аргументов (правдивых, полуправдивых и откровенно ложных), что у него физически не будет времени все опровергнуть.

Пример классический:

Гиш в дебатах про эволюцию:

- "Второй закон термодинамики запрещает эволюцию!"

- "Не найдено переходных форм!"

- "Глаз слишком сложен, чтобы возникнуть случайно!"

- "Углеродный анализ неточен!"

- "Кембрийский взрыв противоречит Дарвину!"

И так далее, 20 аргументов за 5 минут. Оппонент начинает отвечать на первый - а Гиш уже на десятом. У людей в зале создается впечатление, что креационист побеждает, потому что "ученый не может ответить на все вопросы".

И вот теперь ИИ освоил это в совершенстве.

Почему мы все лохи

1. Информационная перегрузка

Человеческий мозг не может обрабатывать 25+ утверждений одновременно. Мы начинаем уставать, пропускать детали, принимать на веру.

2. Иллюзия компетентности

Когда ИИ выдает столько "фактов", мы думаем: "Ого, он явно в теме. Наверное, он прав".

3. Асимметрия усилий

Сгенерировать ложь - 2 секунды.

Проверить ее - 10 минут.

Выдать 30 аргументов - 10 секунд.

Опровергнуть каждый - 5 часов работы.

4. Эффект подтверждения

Если хоть несколько аргументов совпадают с нашими предубеждениями - мы начинаем доверять всему остальному.

Масштаб проблемы (сейчас будет страшно)

Исследователи посчитали экономику этой хрени:

Стоимость манипуляции сознанием через ИИ

Политическая кампания с ботами:

- Арендовать API GPT-4: ~$0.01 за 1000 токенов

- Один "убедительный разговор": ~5000 токенов = $0.05

- Охватить 1 миллион человек: 50,000 баксов

Для сравнения, традиционная политическая реклама на ТВ для охвата того же количества людей: миллионы долларов.

Эффект держится

Люди, которые пообщались с "убедительным ИИ", сохраняли измененные взгляды минимум месяц. У некоторых - дольше.

Доступность

GPT-4, Claude, Llama 3.1, Gemini - все эти модели доступны любому человеку.

Нет барьеров. Нет контроля. Нет этики

Реальные кейсы (которые уже происходят)

1. Предвыборные чат-боты

В США во время выборов 2024 уже фиксировали случаи, когда кандидаты запускали чат-ботов, которые "общались" с избирателями в комментариях соцсетей.

Боты выглядели как обычные люди. Писали развернутые комментарии. Заваливали оппонентов аргументами.

Эффективность: По некоторым оценкам, такие боты конвертировали до 15% "нейтральных" избирателей в сторонников.

2. Корпоративные тролли

Крупные компании используют ИИ для "защиты репутации". Когда появляется негативная публикация, боты заходят в комменты и начинают "дискутировать", заваливая критиков аргументами.

3. Геополитическая пропаганда

Не буду называть страны, но есть подтвержденные случаи использования ИИ-ботов для распространения определенных нарративов в конфликтных зонах.

Что предлагают ученые:

1. Законодательное регулирование ИИ-персуазии

Типа маркировать ботов, ограничивать их использование в политике.

Проблема: Как отследить? Как доказать?

2. Обучение людей критическому мышлению

Типа учить распознавать манипуляции.

Проблема: Как видно из исследования, даже зная о манипуляции, люди ведутся.

3. Технические ограничения в самих моделях

Типа запретить ИИ использовать определенные техники.

Проблема:Открытые модели (Llama, Mistral) никто не контролирует.

Что я делаю лично:

1. Проверяю через несколько источников.

Если ИИ выдал мне факт - гуглю его через 2-3 независимых источника. Да, это долго. Да, это задолбало. Но иначе никак.

2. Ограничиваю время общения с ИИ на острые темы.

Если я чувствую, что меня "заносит" в дискуссию с ботом про политику - останавливаюсь. Делаю перерыв. Возвращаюсь через день.

3. Спрашиваю у реальных людей

После общения с ИИ на спорную тему - обсуждаю это с живыми людьми, которым доверяю. Они видят то, что я мог пропустить.

4. Веду "дневник предубеждений"

Записываю свои изначальные позиции по важным вопросам. Потом, если они меняются - анализирую, почему. Было ли это из-за реальных аргументов или из-за манипуляции?

Вопросы к сообществу

Вы замечали, что ИИ вас переубеждает?

Спорили ли вы с ChatGPT/Claude о политике?

Ловили ли себя на том, что начинаете верить аргументам, которые изначально казались сомнительными?

Как Вы защищаетесь от информационной перегрузки?

Самое страшное

Раньше мы думали, что ИИ поможет бороться с дезинформацией.

Что он будет фактчекером. Что он будет помогать людям отличать правду от лжи.

А оказалось, что ИИ - это лучший инструмент для создания дезинформации.

Потому что он:

- Быстрее человека

- Убедительнее человека

- Дешевле человека

- Не устает

- Не имеет совести

И самое треш- он доступен всем.

Не нужно быть хакером. Не нужно быть программистом. Не нужно быть гением манипуляций.

Просто открой ChatGPT, напиши правильный промпт - и вперед, манипулируй сознанием.

- Новые ИИ научились побеждать в спорах не правдой, а количеством аргументов

- Исследование на 77,000 человек показало: когда ИИ использует технику Gish Gallop (завал информацией), точность падает до 56%, но убедительность растет на 51%

- Стоимость манипуляции сознанием: 50,000 баксов, чтобы охватить миллион человек

- Эффект держится минимум месяц

- Доступно всем, никакого контроля

- Демократия под угрозой, потому что любой может запустить армию убедительных ботов

- Защиты нет - даже зная о манипуляции, люди ведутся.

Вот вам и современная автоматизация/роботизация в мире.

В конце января 2024-го у них сорвалась сделка с Amazon на 1,5 млрд евро. Поглощению препятствовали регуляторы из Евросоюза. Тогда президент компании Колин Энгл ушёл в отставку, а менеджмент объявил о сокращении 31% сотрудников.

В декабре 2025 её акции рухнули с 52 долларов до 4. Заявление о банкротстве было подано в штате Делавэр в США.

Теперь в рамках соглашения о реструктуризации она будет поглощена китайским поставщиком Picea Robotics. iRobot не смогла выдержать конкуренции с более дешёвыми аналогами - роботами пылесосами.

iRobot была основана в 1990 г. и выпустила 40 млн роботов и различных устройств (в их числе роботы для военных). Теперь это всё в прошлом.

Другие и более крупные корпорации по производству роботов тоже резко снизили активность и вложения в отрасль.

С наступлением холодов риск обморожения становится реальной угрозой для каждого. Что делать, если почувствовали онемение и побеление кожи на щеках, пальцах рук или ног? Главное правило – ни в коем случае не растирать обмороженные участки снегом и не греть их резко горячей водой. Эксперт Пермского Политеха рассказывает о первой помощи, которая поможет минимизировать ущерб для здоровья до визита к врачу.

Холодовая травма, она же гипотермия, представляет собой повреждение тканей организма под воздействием мороза. Чаще всего оно сопровождается общим переохлаждением.

– Обморожение – это не просто местный спазм сосудов из-за холода, а критическое замедление метаболизма в тканях. При падении температуры в наиболее уязвимых зонах, таких как щеки, пальцы, нос и уши, гемоглобин теряет способность отдавать кислород, что приводит к накоплению не только продуктов обмена, но и токсических веществ, повреждающих микроциркуляцию кожи. Главная опасность заключается не столько в прекращении кровотока, сколько в глубоком угнетении клеточного метаболизма, что и становится ключевым механизмом повреждения тканей на морозе, – старший научный сотрудник кафедры «Химия и биотехнология» ПНИПУ, кандидат медицинских наук Валерий Литвинов.

Эксперт отмечает, что гипотермия может возникнуть даже при плюсовой температуре. Вода проводит тепло гораздо эффективнее, чем воздух, поэтому в сырую погоду тело теряет его с повышенной скоростью. Классическим примером служит «траншейная стопа» – особая форма холодовой травмы, которая развивается в условиях повышенной влажности и температур около нуля. Она может возникать не только на ногах, но и на руках. В этом случае ключевую роль играет не абсолютный холод, а быстрое и значительное охлаждение тканей, которое приводит к стойкому спазму сосудов и глубокому нарушению микроциркуляции, что в результате вызывает повреждение тканей, аналогичное классическому обморожению.

Ключевым признаком начинающейся гипотермии является появление мраморного оттенка и онемения. Однако распознать начальную стадию бывает сложно, так как процесс часто остается незаметным как для самого человека, так и для окружающих. Основное отличие заключается в глубине и обратимости поражения тканей. Ознобление – это, как правило, хроническое поверхностное травмирование кожи из-за длительного, но не экстремального воздействия холода и влажности. В то время как настоящее обморожение представляет собой острую травму с риском необратимого повреждения тканей, возникающую при более интенсивном или длительном воздействии мороза, часто в сочетании с ветром.

– На морозе эпидермис закономерно бледнеет. Если человек зайдет в тепло, то он станет красным, кожу будет покалывать, она будет гореть или зудеть. Это и есть то самое «безопасное» холодовое покраснение – ознобление. Чувствительность при этом полностью сохраняется, ощущается и холод, и боль. Тревожным звоночком является резкая смена ощущений. Самым главным и опасным сигналом является не боль, а ее отсутствие. Если покалывание и жжение внезапно сменяются нарастающим онемением и полной потерей чувствительности – это первый точный признак того, что начинается настоящее обморожение, – объясняет ученый.

Параллельно с этим, подчеркивает эксперт, нужно оценить видимые изменения. Стойкая, «мертвенная» белизна кожи, похожая на воск, выраженная синюшность или характерная мраморная окраска, то есть чередование белых, синих и багровых пятен – являются первыми сигналами. Если белое пятно не розовеет при надавливании, это указывает на остановку кровообращения в данной области.

Другими важными критериями являются температура и плотность тканей. При озноблении кожа холодная, но эластичная. При обморожении она становится ледяной на ощупь и плотной, как дерево или воск. Это ощущение «деревянности» означает, что в тканях уже начала замерзать вода.

– Важно понимать, что точными и понятными признаками к немедленным действиям является комбинация трех составляющих: потеря чувствительности – онемение – вместо боли, появление стойкой белой, синей или мраморной окраски кожи и ощущение ее твердости. Необходимо помнить, что боль – это защитная реакция, а ее исчезновение на холоде – самый коварный и главный предвестник серьезной травмы. Если после согревания на коже появились волдыри – это признак обморожения II степени, который требует обязательного обращения к врачу, – отмечает Валерий Литвинов.

По словам ученого, принято выделять 4 степени гипотермии. Легкая, или адинамическая степень наступает при температуре тела от 35 до 32°C, когда сознание сохранено, но человек чувствует слабость, озноб и сонливость, речь становится замедленной и отрывочной. Характерными признаками являются общая мышечная дрожь, в том числе тремор жевательных мышц, из-за которого стучат зубы, а также бледная или синюшная кожа с мраморным рисунком и так называемой гусиной кожей. Пульс замедляется до 60-66 ударов в минуту, артериальное давление обычно в норме, дыхание не нарушено.

II степень средней тяжести, называемая также сопорозной или ступорозной, развивается при температуре от 32 до 28°C и характеризуется угнетением сознания с резкой сонливостью и бессмысленным взглядом, при этом важнейший симптом – отсутствие дрожи. Кожный покров становится холодным, бледно-синюшным или мраморным, движения резкие, но скованные, дыхание редкое и поверхностное – 8-12 в минуту – пульс слабый с брадикардией – 56-34 уд/мин – и умеренно сниженным давлением.

– Тяжелая III степень, или судорожная стадия, наступает при падении температуры ниже 28°C, сознание полностью отсутствует, возможны рвота и оледенение тканей, а мышцы приходят в состояние окоченения с тоническими судорогами, когда конечности согнуты и их трудно распрямить. Зрачки сужены и слабо реагируют на свет, дыхание становится редким – 4-6 в минуту – поверхностным и прерывистым, пульс падает до 34-30 ударов в минуту и становится слабым, артериальное давление резко снижено или не определяется, также наблюдается непроизвольное мочеиспускание. Крайне тяжелая IV степень переохлаждения ведет к клинической смерти, когда признаки жизни отсутствуют, что обычно происходит при снижении температуры тела ниже 28°C, – добавляет Валерий Литвинов.

Ключевую роль в появлении обморожения играют не только температуры, но и совокупность факторов, резко усиливающих теплоотдачу или ослабляющих защитные силы организма. Главными внешними причинами переохлаждения являются ветер, усиливающий потерю тепла, и высокая влажность воздуха, которая проводит тепло гораздо эффективнее. Риск резко возрастает, если одежда или обувь промокают или слишком тесные. Мокрая ткань теряет теплоизоляционные свойства, а теснота нарушает кровообращение. Ключевую роль играет и общее состояние организма: переутомление, истощение, голод, недавняя болезнь или стресс снижают способность тела вырабатывать тепло.

– Наличие хронических заболеваний, в первую очередь атеросклероза, болезней сердца и сосудов нижних конечностей, напрямую ухудшает периферическое кровообращение, затрудняя согревание рук и ног. Отдельным крайне опасным фактором является курение на холоде, которое вызывает резкий спазм периферических сосудов, и употребление алкоголя, создающего лишь иллюзию тепла из-за расширения поверхностных сосудов, в то время как организм стремительно теряет тепло. Статистика указывает, что более 90% тяжелых случаев обморожения происходят с людьми в состоянии алкогольного опьянения, которое притупляет чувствительность и критическое восприятие, – дополняет ученый.

Что касается первой помощи, то при подозрении на обморожение необходимо действовать немедленно и грамотно. По словам эксперта, начать следует с прекращения воздействия холода – пострадавшего нужно как можно скорее переместить в теплое помещение. Следует осторожно снять промерзшую и влажную одежду и обувь, освободить конечности от колец и браслетов. Пораженный участок необходимо погрузить в емкость с теплой водой, начиная с 18-20°C. В течение 20-30 минут температуру воды нужно плавно повышать, добавляя теплую, до уровня 37-40°C. Процедуру согревания в воде проводят около 30 минут или до покраснения кожи и ощущения тепла. После этого ее аккуратно промокают мягкой тканью и накладывают стерильную сухую повязку, между пальцами прокладывая марлю. Пострадавшего нужно укутать в одеяло, дать ему теплое сладкое питье – чай или воду – и обеспечить покой.

– Категорически запрещено растирать обмороженные участки снегом, льдом или грубой тканью, так как кристаллы льда травмируют кожу, а трение повреждает сосуды, усиливая тромбообразование и углубляя некроз. Нельзя резко согревать у батареи, открытого огня или с помощью грелки, поскольку из-за потери чувствительности высок риск получения ожога, а резкий перепад температур ухудшает восстановление тканей. Также запрещено растирать кожу спиртом или маслами, прокалывать волдыри, употреблять алкоголь и продолжать ходить на обмороженных ногах, чтобы не усугубить травму, – рассказывает Валерий Литвинов.

Ученый подчеркивает, что в некоторых случаях самолечение недопустимо и требуется срочная медицинская помощь. Абсолютными показаниями являются: появление пузырей на коже – особенно с темным или кровянистым содержимым, что соответствует II и III степени обморожения – сильный отек, не спадающий после согревания, стойкая потеря чувствительности, а также изменение цвета кожи на багрово-синюшный, серый или черный – признак IV степени. Опасна также общая гипотермия, проявляющаяся сильной дрожью, сонливостью, спутанностью сознания, невнятной речью и нарушением координации. Несвоевременное обращение при глубоком обморожении – III–IV степень – приводит к необратимому некрозу тканей, развитию гангрены и высокому риску ампутации пораженной конечности, поскольку истинная глубина поражения может быть неочевидна в первые часы.

– Лечение в условиях стационара – сложный и длительный процесс. Тяжело точно оценить глубину и стадию поражения кожи при поступлении пациента, часто это возможно лишь через несколько дней. Современная реабилитация направлена на спасение жизнеспособного эпидермиса, предотвращение необратимых повреждений, чтобы избежать удаления конечности, а также на минимизацию долгосрочных последствий. Лечение является комплексным и этапным. После проведения активного согревания, ключевой задачей становится восстановление микроциркуляции в поврежденной зоне, где из-за холодового спазма и последующего тромбообразования формируется опасный «замкнутый круг» гипоксии. С этой целью применяется активная медикаментозная терапия, – объясняет эксперт.

Дополнительно во время терапии часто используют антиагреганты, например, аспирин, обезболивающие, антибиотики для профилактики инфекции и инфузионную терапию – введение витаминов, минералов и лекарств внутривенно. Широко применяются разные виды физиотерапии – ультравысокочастотная терапия, светолечение – которые улучшают регенерацию и предотвращают контрактуры – ограниченные движения суставов. Ученый дополняет, что хирургическое вмешательство на ранних стадиях ограничивается щадящими манипуляциями – некротомией – рассечением коросты для снятия давления – и обработкой пузырей. Радикальные операции, такие как некрэктомия – удаление омертвевшей кожи – и ампутация, выполняются отсроченно, через несколько недель или месяцев, когда граница между жизнеспособными и некротизированными тканями становится четко различимой.

– После заживления обморожения часто сохраняются долгосрочные последствия. К ним относятся повышенная чувствительность к холоду, стойкие парестезии – онемение и покалывание – а также трофические изменения ногтей, такие как деформация и замедленный рост. Косметические дефекты проявляются в виде атрофии кожи, изменения её цвета и образования рубцов. Минимизировать последствия помогает комплексная реабилитация, включающая медикаментозную терапию, курсы физиотерапии, например, лазеро- и магнитотерапия, а также лечебная физкультура и массаж для восстановления функции суставов. Ключевым условием является постоянная защита поражённых участков от переохлаждения с помощью тёплой одежды и обуви, – заключает Валерий Литвинов.