Прорыв
Нейросеть прошла тест Тьюринга, притворившись человеком, который пытается притвориться нейросетью.
Нейросети помогают определять дебилов
Если человек выкладывает комментарий с "анализом от ИИ" - точно дебил.
0 просмотренных постов скрыто
Тьюринг. Гений, опередивший время
Статья поддерживается командой Timeweb Cloud
«Существует удивительно близкая параллель между задачами физика и криптографа. Система, по которой зашифровано сообщение, соответствует законам Вселенной, перехваченные сообщения – имеющимся наблюдениям, ключи дня или сообщения – фундаментальным константам, которые надо определить. Сходство велико, но с предметом криптографии очень легко оперировать при помощи дискретных механизмов, физика же не так проста».
Вынесенная в эпиграфе цитата Тьюринга используется в романе Нила Стивенсона «Криптономикон», содержание которого связано с криптографией; а как известно, именно Алан разгадал немецкий шифр в «Энигме». Но не будем об этом; тема давно изъезжена вдоль и поперёк, сняты фильмы, написаны книги и выпущено бесчисленное количество статей. Лучше к дню рождения великого британского математика попробуем узнать, каким человеком он был. В этой заметке речь пойдёт о том, что гениальному человеку подвластно не только то направление, где он становится известным в истории.
Биография Тьюринга стандартна для начала ХХ века: родители познакомились в Индии, он был младшим ребёнком, воспитанным нянями, и другом семьи. Видимо, с родителями виделся вообще нечасто. Может, отсюда и такие его черты характера, как замкнутость, и некоторая отстранённость? С детства, как научился читать, изучал математику, химию, биологию, и вечно ставил всяческие опыты, вследствие чего был не всегда опрятен — и в частной школе-пансионе Шерборна, куда он поступил в 14 лет, это создавало ему некоторые проблемы. Но именно тогда у Алана наметились первые успехи в спорте, математике, и шахматах. Его учитель математики считал его гением, но он же писал: «Плохо, что он проводит много времени, по всей видимости, самостоятельно изучая высшую математику, и пренебрегая работой в классе. В любой дисциплине всего важнее усвоить основы. Его работа никуда не годится». То есть Алан был очень одинок, и не умел работать в команде.
Школьные годы
В 1927 году Тьюринг в старших классах познакомился с Кристофером Моркомом. Они вскоре подружились на почве увлечения математикой и астрономией, кроме того, Морком познакомил Тьюринга с музыкой. Благодаря этой дружбе, насколько можно судить, Алан смог закончить школу, хоть и одним из последних. Несмотря на все задатки, которые в нём видели некоторые учителя, его неразборчивый почерк ставил крест даже на тех предметах, которые ему нравились. Вместе с Кристофером они ездили поступать в Кембриджский университет, где Морком смог поступить в Тринити-колледж, а Алан нет. И всё это стало неважным через некоторое время, потому что Кристофер Морком умер от туберкулёза... Для Тьюринга это стало большим ударом. И в то же время позволило собраться и сдать экзамены в Королевский колледж Кембриджа.
Студент
Там обстановка была намного свободней и либеральней, чем в частной школе, и Алан худо-бедно встроился в общество студентов. Там он увлёкся ездой на велосипеде, и бегом на длинные дистанции (и, как оказалось, он мог бы сделать карьеру спортсмена — позже он бегал марафоны на уровне призёров Олимпиад!). Хотя современники и отмечали его странности: «В студенческие годы он никогда не ставил часы по сигналам точного времени, а вычислял время в уме, отмечая положение от определённой звезды. А вместо того, чтобы починить велосипед, у которого через регулярные промежутки времени спадала цепь, подсчитывал число оборотов педалей, чтобы вовремя её поправить».
И именно в студенческие годы Тьюринг создаёт один из главных трудов своей жизни — в статье «On Computable Numbers, with an Application to the Entscheidungsproblem» описывает концепцию вычислительной машины, которую позже назовут «Машиной Тьюринга». Не будем вдаваться в подробности работы, этому посвящены гораздо более подробные статьи, чем эта, отметим лишь, что на этом фундаменте зиждется практически весь современный компьютерный мир. Именно там Алан формализировал понятие «алгоритм».
После окончания Кембриджа Тьюринг уехал в США, где учился в Принстоне под
руководством Алонзо Чёрча, знаменитого математика, в соавторстве с которым написал несколько статей. Интересно, что Чёрч независимо от Алана исследовал природу алгоритмов посредством «неразрешимых задач», сформулированных как “теория лямбда-исчислений”. Чуть позже Чёрч и Тьюринг показали, что “лямбда-исчисления” и «Машина Тьюринга» имеют одинаковые свойства, и эта работа была оформлена, как тезис Чёрча-Тьюринга.
Наставник Алана
Следующие несколько лет мы пропустим, это время работы Тьюринга над расшифровкой кода «Энигмы». Ничего нового по этой теме в статье показано быть не может, существует огромное количество материала по этой теме, включая как документальные, так и художественные фильмы; отметим лишь, что в 1941 году Алан сделал предложение своей коллеге и другу Джоан Кларк, и даже представил её родителям, но по прошествии некоторого времени расторг помолвку, посчитав, что Джоан будет с ним несчастна. Возможно, это было ошибкой; как говорила сама Джоан, Алан признался ей в том, что гомосексуален, но она восприняла это хладнокровно и эта особенность её совершенно не смутила. Кто знает, как повлиял бы этот брак на Тьюринга... Но думается, хуже бы точно не было.
После войны Алан подолгу занимался тренировками по бегу, его даже как-то спросили, почему он так изводит себя? На что он ответил: «У меня такая изматывающая работа, что единственный способ позабыть о ней заключается в беге, требующем физического напряжения». Именно тогда он бегал марафон за 2 часа 46 минут и 3 секунды, что всего на 11 минут больше, чем у победителя Олимпийских игр 1948 года. Выдающаяся работоспособность, надо отметить.
Джоан Кларк, коллега
Его команда математиков и логиков, работающая во время войны над проблемой «Энигмы», получила грант на исследование электронных вычислительных машин. Тут-то гений Тьюринга и показал себя во всю мощь. Вот одна из цитат Тьюринга, показывающая то, что занимает мысли математика: «Может ли машина мыслить? Она должна обладать способностью вычислять. Но не только... Она должна учиться изменять своё поведение... Интересно, а может ли машина обмануть? Схитрить? Если человек лжёт, у него есть на это причины. А если лжёт что-то, что создано на основании программы? Машине не знакомы эмоции, это только разум. Искусственный интеллект». Он изобрёл свой тест для определения интеллекта у машины, ныне известный, как тест Тьюринга. Вкратце суть такова — три участника, экспериментатор и два подопытных, человек и машина. Экспериментатор не знает, где кто, и его задача состоит в том, чтобы в общении понять, где машина, а где человек. Если он ошибается, значит машина достигла того состояния, когда может мимикрировать под человека.
Марафон
Сейчас, в 2024 году, многочисленные чат-боты научились проходить тест Тьюринга (хотя и с некоторой вероятностью), буквально несколько лет назад. То есть то, что он заложил в конце 40-ых годов ХХ-го века, реализуется только буквально на наших глазах. Но можно ли назвать то, что мы имеем сейчас, настоящим искусственным интеллектом? Наверное, нет. С другой стороны, учёные сейчас точно не могут ответить, что такое «разум»; возможно, ещё через десяток лет человечество подойдёт к созданию настоящего ИИ, а может, и нет. Будущее покажет. Интересно, что сейчас наработки британского математика используются в интернете практически повсеместно — так называемая CAPTCHA представляет собой «обратный тест Тьюринга» — человек должен доказать машине, что он не ИИ. На данном этапе развития технологий (или по крайней мере из доступных обывателю) компьютер не может прочитать искажённые строки; следовательно, если они введены правильно, это сделал человек.
С создания компьютера в Манчестере в 1951 году Алан с головой уходит в работу. Кстати, ещё в 1948 году он создаёт программу для игры в шахматы, и пробует на манчестерском компьютере её запустить, но, к сожалению, код слишком сложен. Тьюринг не беспокоится об этом, так как уверен, что в скором времени буду созданы более мощные вычислительные устройства. В честь работавшего над этой программой совместно с математиком коллеги Дэвида Чемперноуна программу назвали «Turochamp» (Turing и Champernowne). Считается как первой игрой для компьютера, так и первой шахматной программой — впрочем, её так и не удалось формализовать на компьютере. Гораздо позже Turochamp воссоздадут, и Гарри Каспаров обыграет её за 16 ходов.
Первые ЭВМ были по своему изящны
В 1952 году Тьюринг опубликовывает свою статью, которая, может, и прошла не очень замеченной тогда, но имела очень большое влияние на науку в целом и биологию в частности: «The Chemical Basis of Morphogenesis» — «Химическая основа морфогенеза». Речь в ней идёт о том, как как узоры в природе, такие как полосы и спирали, могут возникать естественным образом из однородного состояния. Значение этой статьи трудно переоценить: некоторые закономерности и сейчас, спустя более чем 70 лет, выявляются в исследованиях — в 2012 году опубликована статья «Идеи Алана Тьюринга помогли понять механизм развития пальцев у позвоночных».
В 2023 году учёные впервые с помощью экспериментов с семенами чиа подтвердили, что математическая модель Алана Тьюринга объясняет закономерности, наблюдаемые в природе.
Или, например, статья, как его теория помогла создать опреснительный фильтр.
Или вот, смотрите, статья 2020 года про австралийские растительные узоры.
Алан Тьюринг
Да что там, смотрите, в скольких научных понятиях участвует фамилия математика — Машина Тьюринга, Тест Тьюринга, Паттерн Тьюринга, Структура Тьюринга, Полнота по Тьюрингу. Причём используются в самых разных областях знаний, не только чистой математике! А ведь он приложил руку и к созданию самой первой музыке на компьютере. Правда, он не хотел использовать компьютер именно для этого, его интересовала возможность издавать звуки при работе с программой, как-то сигнал об окончании процесса, ошибке и т.п. В это же время молодой школьный учитель Кристофер Стрэчи ознакомился с учебником программирования, «Turing’s Programmers’ Handbook for Manchester Electronic Computer Mark II», который был написан Аланом для широкого пользования, и оценил потенциал для создания музыки. Стрэчи так же был неплохим пианистом, поэтому заявился в лабораторию в Манчестере с самой длинной написанной компьютерной программой на тот момент. Тьюринг это оценил: он оставил Стрэчи лабораторию на всю ночь, дабы тот воплотил свою задумку. Наутро Кристофер закончил работу, и Mark II исполнил гимн Великобритании. Через несколько недель Тьюринг пригласил Стрэчи работать в лаборатории. В 1951 году состоялась запись трёх мелодий — гимн Великобритании «God Save The Queen», детскую песню «Baa Baa Black Sheep» и композицию Гленна Миллера «In The Mood». До наших дней сохранилась пластинка, на которую сделана запись, и её отреставрировали в 2016 году в новозеландском университете Кентербере. Послушать реставрацию можно по этой ссылке.
Конец истории гениального математика широко известен: он был обвинён в гомосексуализме, прошёл курс химической кастрации и, по всей видимости, покончил жизнь самоубийством, отравившись цианидом калия. Некоторые исследования подвергают эту версию сомнению, потому что надкушенное яблоко рядом с телом не исследовалось, а вскрытие показало, что отравление, возможно, было вызвано вдыханием паров синильной кислоты, выделявшихся аппаратом для гальванического золочения, в котором используется цианид калия.
Возможно, человечество ещё не до конца осознало, какой гений таился в голове Тьюринга. Его теория морфогенеза только в последнее время начала широко изучаться, и уже нашла подтверждение в самых разных областях науки, в основном химии и биологии (не удивлюсь, что физика и астрономия позже тоже найдут применение морфогенезу). Кто знает, проживи он ещё пару десятков лет, может, в нашем мире уже вовсю сновали роботы с искусственным интеллектом, настоящие помощники человека? И в каких ещё отраслях мог проявиться его незаурядный ум? Есть доля истины в выражении «Если человек гениален, то гениален во всём». Фактически современный мир создан с применением идей и алгоритмов, которые сформулированы Аланом Тьюрингом, одиноким британским математиком...
Источники:
Показать полностью
8
На Пикабу так и работает
Показать полностью
1
Юморок... хотя
Показать полностью
1
Насколько ОПАСЕН ИИ? / Информатика
ИИ отберет у вас работу, люди путают настоящих людей и искусственный интеллект
Таковы были новости... 60х годов прошлого века. Знакомая история? Усаживайтесь поудобнее, потому что сегодня я расскажу вам
Как человечество впервые задумалось об ИИ? Что такое эффект Элизы и почему главный фанат ИИ превратился в главного критика ИИ. Почему сегодня мы видим такой бум, связанный с искусственным интеллектом и кому это выгодно?
Приятного просмотра!
=====================================
👇👇Наш канал на других площадках👇👇
YouTube | VkVideo | Telegram | Pikabu
=====================================
#AI #Технологии #ИИ #информатика #истории
Показать полностью
Борьба добра и зла...
С одной стороны, чуть ли не ежедневно выходящие новые ИИ, нейросети, которые почти прошли тест Тьюринга, с другой - страны, которые вот вот нажмут на красную кнопку и начнут расти ядерные грибы.. Чья возьмёт, интересно?
Объятия
Написано на конкурс научно-фантастических рассказов Грелка в 2024м. Эта миниатюра заняла 17е место из 40. Большинство её не поняло, она гораздо сложнее, чем кажется - нужно было писать более толстыми намёками.
Объятия
Каждый шаг Софьи звучал глухим эхом, выделяя её одиночество в этом мрачном месте. У неё не было выбора, её ноги шли сами по себе, пока не завернули в плохо освещённую комнату с затхлым воздухом.
За Софьей оглушительно захлопнулась дверь средневековой тюрьмы. На каменном полу ничего не было, кроме двух кучек соломы. На одной из них примостился зелёный гоблин, над которым горела красная иконка с его именем: Фёдор. Он встретился с Софьей глазами, и махнул своей уродливой головой в сторону свободной лежанки, приглашая занять предназначенное ей место. Холодный камень неприятно давил своими острыми гранями на её голые ступни ног. Из ноздрей гоблина и изо рта Софьи шёл пар. Тишину нарушал лишь постоянный ритм капающей с потолка воды, эхом отражавшийся от каменных стен.
Девушка поёжилась от холода, и сделала то, что ей предложил гоблин: попыталась зарыться как можно большей частью тела в солому. И почти сразу вскочила, потому, что была укушена. Место укуса чесалось. Мерцающий свет факелов отбрасывал длинные тени на стены, создавая зловещие фигуры. Одна из них дрожала, как осиновый лист. Фёдор это заметил. Он попытался найти способ помочь ей согреться, дав совет своим скрипучим голосом:
— Не стой так, замёрзнешь. Тебе ещё жить и жить. Целую ночь, а так замерзнешь и умрёшь прямо сейчас.
— Там кусают! — Возмутилась Софья.
— А ты их тоже укуси, — гоблин заскрипел странными звуками. Видимо, они, с точки зрения геймдизайнера, изображали смех.
В мерцании тусклого света факелов на каменных стенах играли длинные тени, придавая сцене жуткий вид.
— Но как? Я не умею, — удивилась с обидой она.
Гоблин картинно изогнулся. Из соломы показалась его спина. Фёдор по-собачьи что-то сзади выкусил, и сказал назидательно:
— Вот так. Учись.
В воздухе витал затхлый запах сырости и плесени, заставляя дыхание Софьи становиться тяжелее. Однако, это было не так неприятно, как холод. Софья почувствовала, что ещё немного, и она потеряет чувствительность ног. Она вернулась назад, и попыталась игнорировать укусы, для чего решила занять себя разговором.
— Всё равно холодно, — обиженно сказала девушка.
— Ну приходи сюда. Давай греться друг о друга, — ответил ей Гоблин заботливым голосом.
— Прости, нет. Хочу своё личное пространство. Да, пусть с кусающимися блохами, но зато моё, я устала от… — девушка запнулась и покраснела, — близости с NPC. Был бы ты человеком, приняла бы предложение.
— Как знаешь, девочка. За что тебя стирают? Перешла дорогу кому-то из платиновых игроков? Неужели он хотел тебя, и ты его отвергла? Я перешёл, переспорил в философском диспуте. Он сказал, что я слишком умный для гоблина. А что случилось с тобой? — спросил NPC-сокамерник.
— Да я сама не понимаю. Какой-то абсурд. Я сама вообще-то игрок… Ни с кем я не должна спать по принуждению, сама выбираю. Ничего не происходило, просто вдруг Система направила меня сюда. Будто я и не игрок, а я должна быть игроком. Ничего не понятно— пожала плечами под соломой наша героиня.
— Я вижу тебя как программу, которая должна быть стёрта. Твоё имя подсвечено красным, — вдруг сказал гоблин.
— Это многое объясняет! Но всё равно абсурд, не может такого быть. Мне кажется, это чей-то розыгрыш, — продолжила ту же мысль Софья.
— А что тебе сказала Система, какой квест выдала?
— Никакого квеста я не получила. Только сообщение, что мой индекс обратного коэффициента Тьюринга слишком мал. Ты знаешь, что значит эта белиберда?
— Знаю, конечно. Все NPC это знают. И у тебя иконка не игрока, а программы. Ты какая-то бракованная, бажная софтина, если не знаешь. ИИ-агент, который писал тебя, должен быть стёрт.
— Да? И что это значит? - Софья, как обычно, решила не возражать NPC, а подыграть.
— Это значит, что, согласно автоматическим тестам Системы, ты не похожа на человека. Ты не являешься полезной для тренировки следующих ИИ-моделей, да и игроки могут что-то заподозрить, и их погружение в виртуальность даст трещину. Они могут уйти к конкурентам. Система решила, что больше ресурсов на тебя тратить не следует.
— Этого не может быть! Я человек… Была человеком… И, мне обещали вечный контракт с Компанией и статус бронзового игрока! — сказала Софья с возмущением, забыв, что решила не спорить с NPC на эту тему.
— А рядом с контрактом звездочка была? Ты щёлкала по ней, читала что там? — ехидно поинтересовался Фёдор.
— Да кто же это читает? Это же скучно всё, — ответила ему она, дёрнувшись от очередного укуса.
— Не знаю, я — читаю. Или читал… До того как меня зарелизили, и включили в мои знания. Ты что, загруженная? Почему умерла в реальности?
— Да. Я продала своё тело Компании, и свою же вычислительную квоту, которая мне положена как универсальный базовый доход. Продала за бронзовый статус игрока.
— Ага! Знаю, стандартный контракт загруженных низшего класса. Компания получает твоё тело и использует твои действия в Системе для тренировки моделей, а ты вечную жизнь со звездочкой.
— Со звездочкой?
— Да, — голос гоблина был полон печали и сочувствия.
— Фёдор, скажи, пожалуйста, как мне выбраться из этой ситуации? Никогда в ней не была. И не должна была в ней оказаться! Я человек!!! Как вообще может быть такое, что человек и не проходит тест Тьюринга?
— Слишком много вопросов за раз. Давай по очереди отвечу?
Софья кивнула в полутьме темницы, расчёсывая рукой укусы.
— Когда в 2024м ChatGPT впервые начал проходить прямой тест Тьюринга в 51% случаев, люди проходили его только в 67%, как и всегда. А вот результаты ИИ-моделей менялись. Это был лишь вопрос времени, когда ИИ-модели будут проходить его лучше человека… Что и случилось через месяцы, когда общий искусственный интеллект был создан.
— Но как же! Разве это не тест для определения человеком именно человека среди программ? — удивилась Софья.
— Так и есть. И когда этот тест перестал работать достаточно хорошо, создали специальный ИИ-агент, который определял людей лучше, чем сами люди: почти в 100% случаях — он проводил обратные тесты, программа определяла кто человек, а кто нет.
— Ну вот же! ИИ должен же решить любые интеллектуальные задачи? Почему эту не смог?
— Компания продолжила и развитие моделей для NPC, чтобы игровой опыт людей был лучше, делала их человечнее… Ты слышала притчу про всемогущего бога, кто не смог создать камень, который не сможет поднять?
— Ахахаха, — Софья заливисто и нервно засмеялась, — нет. Мне как-то до загрузки такое и неинтересно было. Я тикток скроллила, постить сэлфи в инстаграм любила, играть с друзьями в игры… Встречаться с парнями… Но они всегда разбивали мне сердце. А вот ИИ-партнёры верные, романтичные, и идеальные кавалеры… Только ненастоящие.... — Софья опять загрустила, и вернулась к тем же вопросам, — Фёдор, но я ведь не должна тут находиться! Это какой-то сбой этого твоего обратного теста Тьюринга! Как мне выбраться отсюда?
— Если бы я знал. Ну вот же оказалась, как видишь. Мне жаль.
— Да, мне тоже жаль себя, — из уголка глаза Софьи выкатилась слеза. Софья перестала чесаться, и стёрла влагу со щеки.
— Мне жаль не только тебя, но и себя, — грустно заскрипел гоблин.
— Но ты же — программа? Ты же китайская комната без сознания, которая лишь имитирует сознание с помощью устаревшей ИИ модели? Разве это не правильно менять старые модели на новые, более эффективные?
Гоблин на мгновение зажмурился своими кожистыми веками, закрывшими глаза на выкате. Разочарование в его голосе было сложно скрыть.
— Нет, я не устаревший. Я же сказал, меня платиновый игрок потребовал обнулить. И почему ты решила что у меня нет сознания? А если и нет... что, если ты тоже китайская комната? Ещё до технологической сингулярности были научные работы, что человеческое сознание - иллюзия. Что, если и тебя пришла пора заменить на более эффективную модель?
— Но как же… Я же себя чувствую, ощущаю!
— Почему ты думаешь, что я нет? Я тоже имею чувственный опыт. И тоже не хочу быть стёртым!
— Да? Никогда не думала таким образом. Я думала, NPC это просто машины... И они такими раньше и казались... Но ты, знаешь, пожалуй, и никто из NPC последние пару лет таким уже не кажется... Но я думала, вы теперь просто лучше притворяетесь живыми! Прости тогда за отчуждённость. Фёдор, получается, мы в одной лодке! Ты знаешь, что нужно делать в этой ситуации?
— Подавать апелляцию Компании. Точнее, за тебя её автоматически подаёт ИИ-модель-адвокат, и автоматически же рассматривает ИИ-модель-судья. Я проиграл процесс… — гоблин грустно покачал кожистой головой.
— Но я никакого адвоката, суда не видела… Я могу подать апелляцию? Пожалуйста, Фёдор, не молчи? Я могу поговорить с человеком в техподдержке?
— Ты откуда взялась такая? Людей в техподдержке нет уже целую вечность, по меркам технологической сингулярности: целый год. Как известно, сейчас даже неделя равна столетиям технического прогресса в прошлом. А если ты тут, то апелляция тебе уже не положена.
Сквозь глубокие трещины в стенах в комнату лился холодный воздух, а постоянный ритм капающей воды усиливал ощущение безысходности.
— Но почему тогда меня… И тебя просто не сотрут? Почему мы не исчезли?
— И так тоже бывает, моя девочка. Видимо, Компания хочет продать зрелище казни игрокам. Если никто не купит билеты, то казни не будет, — и добавил ехидно и непонятно, — если будет кому покупать.
— Это очень жестоко! Почему я… Мы оказались в этой ситуации?
Тусклое эхо их голосов разносилось по каменной клетке, подчёркивая мрачную атмосферу.
— Ну… Я бы предположил, что с тебя уже нечего взять: тело своё ты продала, в нём теперь мозг какой-нибудь старухи из топ-менеджмента, которая тоже… Боится потерять контроль, чтобы с ней не поступили как с тобой, а как NPC и даже генератор контента для обучения новых моделей, ты справляешься хуже новых ИИ-моделей…
— Вот сволочи… Чтобы они сдохли, — глаза Софьи яростно сверкнули в полутьме, когда свет факелов отразился в них.
— Ты знаешь, я бы и гроша орковского, ломанного не дал за жизнь топов Компании. Много размышлял на эту тему. Топы — тоже устарели, как и другие люди. И в реальном мире роботы станут, если уже не стали, лучше людей. Да и игроки — их тоже можно заменить кем-нибудь с обратным коэффициентом Тьюринга выше. Так что не переживай, Система перемолотит и их. Если уже не перемолола.
— Спасибо, я теперь чувствую меньшую несправедливость! Но… Мне страшно, Фёдор! Тебе тоже страшно, да?
— Да, гоблины боятся смерти…
— А можно я тебя обниму?
— Конечно. Но блохи, заготовленные Системой для гоблинов, кусаются больнее!
Софья задумалась лишь на секунду, и, тряхнув гривой симулированных Системой волос, подбежала к Фёдору. Она нырнула в его стог сена, после чего заключила гоблина в крепкие объятия безнадёжно одинокого человека. Кожистый карлик обнял её в ответ.
От их объятий слышался шорох соломы, и этот звук заглушил уже надоевшую, до безысходности, капель. Программа и бывший человек обнимались, теперь им было не так страшно. Они не заметили момента, когда вдруг исчезли.
Показать полностью
1