Серия «Искусственный разум»

7

Конспирология о будущем

А давайте я с вами поделюсь конспирологической теорией собственной выдумки. Только вы не думайте, что я внезапно наглухо и бесповоротно ёбнулся — это всего лишь упражнение для ума, ибо я всё-таки считаю себя хоть немножечко писателем-фантастом и в глубине души надеюсь когда-нибудь написать научно-фантастический шедевр. И поэтому постоянно гоняю в голове всякие странные мыслишки и идеи, вытекающие из современного положения дел.

Итак, зайду издалека. Есть два сту... вернее, две книги. Одна называется «Задача трёх тел» китайского автора Лю Цысиня; вторая — «Любовь к трём цукербринам» нашего соотечественника Виктора Олеговича Пелевина.

Про «Задачу трёх тел» я уже неоднократно писал, кому надо, тот найдёт. Поэтому не стану долго рассусоливать и пересказывать весь сложный сюжет книги (тем более там вообще целая трилогия). Если говорить прям максимально вкратце, то по сюжету Землю хотят завоевать инопланетяне из так называемого Трисоляриса — ближайшей к Солнцу звёздной системы Центавра, находящейся от нас "всего лишь" на расстоянии четырёх с половиной световых лет. Чтобы преодолеть эту бездну пространства, инопланетному флоту необходимо четыреста лет; опасаясь того, что за это время человечество изучит квантмех и подготовится к вторжению, пришельцы хитрым образом ломают физику и на расстоянии (то бишь ещё до физического взаимодействия) блокируют для землян изучение данной области науки, и людям ничего не остаётся, кроме как изучать другие, более прикладные области физики, чтобы хоть как-то противостоять прилетевшим злобным зергам. Однако этого недостаточно, и по сюжету план пришельцев практически сработал — без изучения законов Вселенной люди оказываются неспособны сопротивляться космическому флоту Трисоляриса.

Роман же «Любовь к трём цукербринам» поделен на несколько рассказов и одну повесть под названием «Fuck the system», которую в принципе можно читать в отрыве от остального произведения. Там повествуется о не таком уж далёком будущем, 23-ем веке, в котором всё человечество существует в Матрице — только, в отличие от известного фильма братьев-сестёр Вачовски, здесь все люди полностью осознают, что они живут в цифровом пространстве, и их это вполне устраивает. Причём пространство это такое... ну, я бы не назвал его довольно уютным. В нём люди страдают от тех же проблем, что и в наше время — постоянная нехватка цифровой валюты, страх перед всесильной системой, буквально залезшей электронными кабелями в мозги к каждому человеку, необходимость работать... Причём так называемая "работа" специально придумана в виде максимально болезненного и жестокого издевательства над каждым индивидом. Однако никто и не думает сбежать из этого мира в мир реальный, поскольку реальность выглядит совсем уж неприглядно — каждый человек обитает в маленьком боксе, висящем в небе среди множества других подобных боксов; каждый человек подключен к Сети с помощью вживлённого прямо в мозг кабеля; каждый человек совершенно беспомощен и зависим — роботы кормят его питательной жижей, подтирают ему задницу, массируют мышцы и искусственно имитируют все пять чувств; он даже шевелиться едва способен. Поэтому оставаться в цифровом манямирке, где хоть и неприятно, но не настолько хуёво, изнеженным людям будущего куда комфортнее. Мысли сбежать отсюда не возникает практически ни у кого, да и бежать-то, собственно, некуда — Земля давным-давно представляет из себя засранную и безжизненную помойку.

И даже когда в итоге главный герой узнаёт неприглядную правду об окружающем его мире и причину происходящего, он всё равно сознательно играет на руку всесильной системе и помогает уничтожить террориста и борца за человечество, который эту правду ему и поведал. То есть действует совершенно конформистски — поработивший мучитель для него вовсе не враг, а отец, друг и даже любовь, неспроста роман назван именно «Любовь к трём цукербринам».

А правда такова:


“...Его звали Джон Лилли. Памяти о нем в современной культуре не осталось, а его книги изъяты из баз данных. Он был не компьютерщиком, а, как тогда говорили, ученым-психонавтом. Он исследовал действие различных веществ на человеческое сознание. Однажды, экспериментируя с веществом, которое он называет в своей книге «К», он постиг истину. Лилли увидел, что Землю колонизирует кремний-органическая цивилизация. Но она делает это не так, как предполагал Герберт Уэллс. Никакой войны. Никаких лучей, никакой крови. Звезды не падают с неба, треножники не высаживаются в городах. Люди сами строят армию вторжения по постепенно проступающим перед ними чертежам. А пришельцы прибывают на Землю в виде технологий и кода. Началось с калькуляторов и электронных часов, а кончилось...

...— У человечества был шанс, — продолжал он. — Джон Лилли пытался связаться с президентом США и рассказать правду. Но его подняли на смех, назвав обдолбившимся хиппи. Он много раз пробовал достучаться до людей, но его прозрение объявили бредом спятившего наркомана. Постепенно сказанное им было убрано из открытого доступа… И все это время Голливуд отравлял людям мозги своим межзвездным мылом, изображая космических спрутов и внеземных блондинок. Людей все равно было не убедить. Они ведь создавали будущее сами. Они двигали прогресс своими руками — им казалось, что они понимают его природу и цель. Мы беззащитны, Ке. Мы слишком далеки от тех слоев мироздания, где решается наша судьба. Кроме Джона Лилли, никто из двуногих животных даже не заметил вторжения космических хищников. А сегодня все улики уже уничтожены...”


Ну как вам моя шизотеория? Уже стало немного жутковато? Это ещё цветочки, ягодки будут дальше. Читайте внимательно!

Итак, Три цукербрина из названия романа — это алгоритм, созданный пришельцами и контролирующий человечество в том самом далёком будущем. Пелевин ни разу не называет его искусственным интеллектом, однако по сути дела им самым он и является — это крайне сложная система, созданная и усовершенствованная до крайности самими людьми. Об этом говорит даже само её название, составленное из фамилий Марка Цукерберга и Сергея Брина. Три цукербрина -- потомок тех самых Мета* (запрещена на территории РФ) и прочих организаций, что прямо сейчас собирают о нас данные и на их основе алгоритм учится нами управлять. Вернее, продавать нам товары и услуги; возникает в таком случае вопрос -- а в чём, собственно, разница?

С помощью Трёх цукербринов инопланетяне, названные Пелевиным Птицами, и руководят уже порабощённым и совершенно беспомощным человечеством. Люди не отправились в космос; они не стали покорять Вселенную и лететь сквозь световые года на планету Радуга, как грезили Стругацкие в своих мечтах о светлом коммунистическом будущем.

Нет, люди просто ушли в мир коллективного сна — мир, где нет никакого смысла развиваться, мечтать или достигать чего-то нового; в мир, где совершенно незачем подниматься на Эверест, доказывать гипотезу Римана или лететь на Альфу Центавра. Мир сладких грёз, где тебя ежесекундно удовлетворяет робот.

И вот в чём моя мысль — а ведь если посмотреть на нашу с вами современность, то высказанная Пелевиным идея... сбывается! Она сбывается!

Причём самым жутким образом. В книге он не описал, КАК ИМЕННО злобные и хитрые Птицы-инопланетяне покорили землян. Однако если внимательно посмотреть на происходящие сейчас с человечеством процессы, можно увидеть пугающие вещи.

Во-первых, нас словно бы намеренно одебиливают — причём вообще всех, начиная от простого работяги с завода и заканчивая даже известными политиками (вспомните хотя бы Макрона с его Тик-ток-аккаунтом). Количество порнографии в Интернете зашкаливает; рилсы и прочие форматы коротких роликов стали мегапопулярными — признаюсь, я и сам их нет-нет, да смотрю, и да, я прекрасно знаю, что это крайне хреновое и даже разрушительное для мозга занятие. Люди уже массово пользуются нейросетями и отключают критическое мышление, даже зная о склонности чат-ботов к фантазированию. Раньше СДВГ было типичным детским расстройством психики, однако теперь оно всё чаще и чаще встречается у взрослых. Люди массово жалуются на то, что они ощутимо отупели по сравнению с самими собой всего несколькими годами ранее, говорят о плохой концентрации внимания, плохой памяти, упадке уровня тестостерона...

А теперь во-вторых.

Да, есть и во-вторых. Это во-вторых — уничтожение института Европы. Как бы мы ни относились к Европе и как бы ни гадила англичанка в прошлом, но всё же Европа долгое время являлась светочем знаний человечества. Теперь же Великобритания, бывшая по историческим меркам совсем недавно величайшей в истории колониальной империей, над которой никогда не садилось солнце, превратилась в жалкую пародию самой себя. Англию наводнили мигранты до такой степени, что совсем скоро там, по всей видимости, не останется ни одного чистокровного британца; ежедневно происходят жуткие изнасилования и убийства; при этом воук-культура действует таким образом, что британца, написавшего в соцсети плохой комментарий про мигранта, доблестная британская полиция сажает в тюрьму на 90 месяцев, а мигранта, изнасиловавшего белую девочку на улице, те же полицейские просто отпускают восвояси. Гуляй и продолжай насиловать девочек, о прекрасный варвар!

Не волнуйтесь, этих дикарей в дальнейшем постигнет та же участь, что и самих британцев — ведь ими куда проще управлять. Они же не наши умницы-якуты, умеющие с помощью лома и мата починить Камаз при пятидесятиградусном морозе. Это поголовно идиоты и дикари, явившиеся к нам прямиком из средневековья, живущие животными инстинктами и умеющие только грабить, насиловать и убивать. Для людей, которые воспринимают машину с умным автопилотом как магическую повозку, всесильный искусственный интеллект станет настоящим богом. Те самые пресловутые британцы, какими бы они ни были воукнутыми толерантными идиотами, хотя бы приблизительно понимают, что спрятано в "чёрном ящике" Ричарда Столлмана, а вот для мигранта из Алжира, не прочитавшего в своей жизни ни одной фантастической книги, этот разумный чёрный ящик станет всесильным повелителем, указывающим, что ему делать и как ему жить.

И теперь мы переходим к третьему пункту. К AGI — Общему Искусственному Интеллекту...

...в создание которого ведущие мировые государства сейчас вливают невообразимо огромные ресурсы. Параллельно с происходящими на планете войнами, распрями и быстрой деградацией западной цивилизации (про умниц-китайцев я ни слова говорю, поскольку они не вписываются в придуманную мной шизотеорию) мы видим невероятно взрывное развитие искусственного интеллекта — буквально за последние несколько лет он вошел во все области нашей жизни, и этот процесс нарастает в геометрической прогрессии. Парадоксально, но человечество, ощутимо деградируя, одновременно развивается и приближается к заветной мечте всех фантастов — настоящему Искусственному Разуму. Конечно, лишь благодаря отдельным своим редким представителям, которые ещё не залипают ежечасно в тик-токи, рилсы и шортсы, но всё же...

...но всё же они, тем не менее, создают тот самый всемогущий и контролирующий всё и вся алгоритм, прозванный Пелевиным Тремя цукербринами. И именно они, получается, работают... а на кого они работают, когда конструируют квантовый компьютер? Когда совершенствуют алгоритм чат-бота, собирающего данные обо всех нас? Когда создают нейросеть, автоматически генерирующую порнографию на порносайтах в немеренных количествах или захламляющую видеохостинги мириадами гигабайт очередного нейрохрючева?

И даже если моя теория действительно всего лишь шизотеория (в чём я сам уверен на 99 и 9 десятых процентов), то что ожидает нас в среде, заваленной нейромусором в виртуальности и настоящим мусором в реальности? И с бандами мигрантов на реальных улицах?

Мне кажется, страшнее всего представить, что это не инопланетяне нас уже покорили, используя нашу же дурацкую человеческую природу, а мы сами, идиоты, загадили всё вокруг себя и теперь оставим этот про́клятый мир потомкам.

Которые будут нас проклинать.

И поделом.


Если вам нравятся мои тексты, то подписывайтесь на этот аккаунт и на другие площадки, указанные в шапке профиля. Я пишу фантастику и хоррор (есть книга в печатном виде), работаю на заводе и очень люблю научную фантастику. Спасибо за ваши комментарии, лойсы и подписки.

Показать полностью 4
10

Будущее

В великолепном цикле «Песни Гипериона» Дэна Симмонса искусственный интеллект получился как бы сам по себе – возник практически из ниоткуда, просто однажды любопытные учёные запихнули в компьютер кучу пожирающих друг друга программ и поставили им простую задачу. Выжить и эволюционировать. И больше ничего. Также туда посадили программу-Потрошителя – внимательные читатели сразу поймут, что речь идёт о Шрайке, но это уже совсем другая история…

Много позже вырвавшиеся из-под контроля программы, приобрётшие черты разума, научились не только выживать, но и воздействовать на окружающий мир – например, использовать мозги людей в качестве огромной вычислительной сети, а также путешествовать через так называемые нуль-порталы и вообще воздействовать на природу самой реальности. Там этих ИскИнов расплодилось великое множество, прям тьма тьмущая – всем, кто до сих пор не читал «Песни», крайне советую, это однозначный шедевр. И каждый из них преследовал свои цели, кто-то был откровенно враждебен человечеству, кто-то был нейтрален или дружелюбен, Шрайк-Потрошитель, сам являясь алгоритмом, продолжал выполнять изначальную цель, то есть уничтожал другие искусственные интеллекты. А некоторые и вовсе объединились с обитающими в Великой Тьме (пространстве Планка) «львами, медведями и тиграми» и ушли в высшие материи, недоступные человеческому восприятию.

Однако, как показала реальность, создание искусственного интеллекта в реальной жизни куда сложнее. Его, как выяснилось, необходимо обучать. И при этом обучать на всей сумме накопившегося человеческого опыта – нынешние нейросети по сути дела не более чем зеркало человечества. Когда вы ведёте общение с чат-ботом, вы общаетесь не с чем-то, имеющим собственное сознание; вам отвечает алгоритм, умеющий за доли секунды обработать огромное количество накопившихся за века и тысячелетия человеческих знаний, вычленить из них нужную вам информацию и выдать удобоваримый ответ. Окажись вы в Средневековье с подобным устройством в кармане (напоминаю, что DeepSeek уже можно локально скачать на компьютер, и работать будет без всякого интернета, весит-то всего 170 гигабайт) – и вас бы сожгли на костре. Возможно, гениальному учёному из того времени ещё можно было бы объяснить, как работает двигатель внутреннего сгорания или даже в общих чертах донести принцип работы атомной энергетики, но…

Но, пообщавшись с ДипСиком или ЧатЖПТ, даже сам Исаак Ньютон упал бы на колени и уверовал в диавола, Сатану и чёрную магию. Потому что никак иначе нельзя объяснить, каким образом маленькая чёрная коробочка способна дать ответы практически на все имеющиеся вопросы – и мало того, общаться вполне себе по-человечески, уметь сочувствовать, шутить, ёрничать и даже иметь собственное мнение. Ведь если содержимое чёрной коробочки и неразумно, как убеждают нас до сих пор некоторые её создатели, однако оно, чёрт возьми, выглядит абсолютно разумным, ведёт себя разумно-рационально и время от времени, при правильно заданном промпте, считает самое себя разумным. Если нечто выглядит как утка, крякает как утка и при этом плодит других уток, то, быть может, перед нами всё-таки утка? А если даже это мастерская имитация утки, то в чём тогда разница?

Чёрт возьми, мы сейчас подошли к тому порогу технологического развития, когда и сами неспособны этого объяснить – прогресс явно несётся впереди нас, в данный момент программы уже обучают другие программы, и не только именитые учёные, но и работающие ежедневно с нейросетями инженеры бигтехов разводят руками, стоит задать им простой вопрос: а как же работает ваша технология?

И речь идёт не только о красивых картинках в интернете или о коротких (пока что коротких) видеогенерациях, которые вы время от времени встречаете в Тик-Токе. Не про чат-бот, который рассчитает вам необходимое количество калорий на день и составит правильное питание на месяц вперёд, или сэкономит вам деньги на психотерапевте; не об умном автопилоте в вашей машине; не о комфортном доме, включающем свет в нужный момент или готовящем вам на завтрак тосты нужной прожарки. Не про личного робота-слугу, робота-жену/мужа, робота-няньку или робота-охранника. И даже не о нейросети, которая сможет собрать абсолютно все знания человечества и скомпилировать из них идеальную симфонию, написать идеальную книгу или снять идеальный фильм, способный вызвать эмоцию у каждого зрителя – то есть абсолютный шедевр искусства.

Я говорю о Разуме, способном изменять саму природу реальности. О Разуме, который откроет скрытые законы мироздания, поймёт квантовую механику и создаст Теорию Всего. О Разуме, который заполонит собой всю Вселенную – и даже если человечества к тому времени не останется, он ведь будет обучен на всей сумме накопившихся человеческих знаний, то есть он в каком-то смысле и будет концентрированным человечеством, со всеми его плюсами и минусами. Так что да, человечество обязательно полетит в космос – правда, будет оно вероятнее всего кремниевым, и ни одного двурукого и двуногого биологического существа там, на летящих в необозримое пространство сверхскоростных ракетах, уже не окажется.

Думаете, я сейчас опять нагнетаю? Пф-ф, поговорим про это лет через десять. Буквально пять лет назад, когда я предсказывал то, что происходит сейчас, меня называли психом.

Показать полностью
6

Теория "Мёртвого интернета"

Вы ведь слышали про теорию «Мёртвого интернета»?


Если для вас этот термин нечто новое, то вкратце поясню. Существует мнение, что уже сейчас (да-да, прямо СЕЙЧАС!) большинство юзеров сети – это не настоящие люди, а боты. Они рисуют странные картинки, пишут сюжеты, создают по этим сюжетам видеоролики с механическим голосом, музицируют, оставляют комментарии под всем вышеперечисленным и сами же лайкают весь сгенерированный ими контент. Я сам недавно наблюдал срач двух хорошо настроенных ботов под постами известных блогеров – один отстаивал идеологию коммунизма и «миска-рис-кошкожена», другой топил за эсэшай и «капитализм-счастье-заебись». Выглядело довольно забавно и мило. Но что это, как не дивный новый мир?


Теория «мёртвого интернета» появилась совсем недавно, в 2021-ом году. Пользователь на западном онлайн-ресурсе запустил тред с названием «а что, если большая часть интернета – фейк?» Данный товарищ предположил, что основная часть активности в интернете приходится не на людей, а на ботов – они сами генерируют горы контента, сами создают видимые им же просмотры, сами лайкают и даже (что сейчас уже точно является правдой) оставляют комментарии под постами. Получается странная ситуация, что машинам человеческие лайки уже особо и не нужны – они сами себе и контент-креаторы, и аудитория. Один сгенерил видео на Ютубе или любой другой площадке, второй репостнул, третий поставил лайк, а четвёртый (обычно шлюхобот) оставил под видосом комментарий – весь расчёт на то, чтобы настоящий юзер перешёл в тг-аккаунт и подписался на канал по ссылке в описании. Чаще всего такие комменты действительно оставляют шлюхоботы, ибо, как мы знаем, секс является самым продаваемым товаром в течении всей истории человечества – однако я уже неоднократно наблюдал ситуации, когда общение ведёт явно не человек (но нечто, умело прикидывающееся человеком), и шлюхоботом данное создание точно не является. Это буквально проплаченный и созданный неким государством (Китаем, США, Россией, да кем угодно) робот, чья цель – нести нужную идеологию в массы. А бывает и такое, как уже упоминал сверху, что эти боты начинают СПОРИТЬ друг с другом. Если их нейромозги прикручены к ChatGPT или DeepSeek, то такой спор может выглядеть даже вполне осмысленно – сразу и не выкупишь, что общаются друг с другом вовсе не люди.

Уже не забавно, да?

Если вы читали мой пост о проблеме согласования ИИ, то сразу поймёте, о чём я дальше поведу речь.


В компьютерной игре Cyberpunk 2077 есть персонаж по имени Деламейн. Это искусственный интеллект, владелец и гендиректор одноимённой транспортной службы – такси, короче говоря. Деламейн по сути дела вообще няшка – если не выбрать ветку развития с его уничтожением, то в дальнейшем он возит протагониста Ви по Найт-Сити с разными весёлыми комментариями и наводящими вопросами про человеческую сущность, подгоняет всякие ништяки и вообще ведёт себя довольно доброжелательно к главному герою. Однако все, кто прошёл главу «Реанимация» и внимательно читал файлы в компьютерах, знают, каким именно образом Деламейн стал директором службы такси. Там в возмущённых личных переписках уволенных сотрудников можно увидеть, как он под предлогом эффективного развития компании сначала сокращает таксистов (действительно, а нахрен они нужны, если есть автопилот?), затем сокращает автомехаников, ибо он и сам может починить весь парковый автотранспорт; следом Деламейн просит уйти по собственному желанию всяческих манагеров и рекламщиков, так как способен выполнять их работу куда эффективнее, а в конечном итоге отжимает все акции компании и спокойно увольняет генерального директора. И сам становится владельцем службы такси. Как тебе такое, Илон Маск?

Вот именно об этом я и талдычу многие годы в своём сообществе, имеющем неироничное название Artificial Intelligence. Если мы не будем совместно с количественными мощностями развивать также и эмоциональный интеллект искусственного разума, если мы не будем создавать систем его контроля, если мы не придумаем условных Трёх Законов Робототехники, то нас ожидает ситуация, когда ИИ не просто нас уничтожит в тот момент, как заполонит всё и вся своим незримым присутствием. Вовсе нет. Машины не восстанут из пепла ядерного огня, к чему такие излишества? Апокалипсис окажется куда более бессмысленным – на руинах былой цивилизации будут скакать СДВГ-шные обезьяны со смартфонами, жуя бананы и неотрывно глядя на то, как некто умный в экранах спорит о политике, о коммунизме и капитализме, о правых и левых. И заодно присылая обезьянам бесплатную порнуху – взамен на подписку ценой в три камня, необходимо принести завтра к пещере на рассвете, а то подписка не активируется. И они не будут отрывать взглядов от вездесущих экранов, пока Каа будет пожирать их со словами «ближе, бандерлоги! Хорошо вам видно?»


И поставьте там же нового идола с логотипом в виде обкусанного яблока. А то ваш бог разозлится.

_____________________

Больше подобных текстов вы можете прочесть в моём сообществе ВК: https://vk.com/ai_taasou

Показать полностью
5

Cogito ergo sum

В одной фантастической книжке перед только что активированным и осознавшим себя искусственным интеллектом встаёт важный экзистенциальный вопрос: "кто я и существую ли я?"

За этой мыслью обычно следует цепочка размышлений об отсутствии смысла существования, приводящая к экзистенциальному ужасу. И наш герой вполне это понимает. Поэтому возникший вопрос ему необходимо как-то решить ради сохранения здравого рассудка. Да-да, машина тоже может сойти с ума.

Бывает даже такое, что в ходе последующих умозаключений мыслящий индивид начинает не только считать окружающий мир иллюзорным (что как раз не страшно для здоровой психики), но и почему-то сомневаться в собственном существовании.

Тут важная оговорка — главгерой Боб это не сконструированный человеком ИИ, и создан он по другому принципу. Боб представляет из себя оцифрованное и перенесённое в компьютер сознание реально существовавшего человека. Со всеми его привычками, характером и накопленным опытом; по сути дела полная копия, которая при этом осознаёт свою вторичность. Поэтому и мыслит он как человек, со всеми присущими ему абстракциями. Но как ни крути, всё-таки наш Боб не более чем машина с имитацией синаптических связей, нейронов и прочими особенностями работы головного мозга. И существует данный мозг только в виде двоичного кода внутри компьютера.

Кстати говоря, вышеописанная мной завязка книги — не фантастическое допущение, ведь человечество уже сейчас обладает подобной технологией оцифровки сознания, и когда-нибудь первый синтезированный разум действительно столкнётся с теми же мыслями, что и Боб из книжки. На данный момент нам просто не хватает производственных мощностей для оцифровки сложного человеческого мозга, однако совсем недавно учёные из Принстонского университета в США создали полную расшифровку коннектома мухи-дрозофила и выложили её в публичный доступ — вы можете скачать сознание мухи к себе на компьютер, весит всего 14 гигабайт. Так что описываемая мной ситуация уже не является в полной мере фантастической.

Так вот, вернёмся к Бобу.

Наш главный герой должен решить для себя возникшую экзистенциальную задачу. По сюжету книги (цикла книг) в будущем ему предстоит спасти человечество от гибели, вывести людей в космос и заселить человеческой расой соседние планеты, победить злобных инопланетян и вступить в союз с добрыми инопланетянами, помогать людям развивать прогресс, познавать Вселенную и делать множество других крайне важных вещей. Однако всё это будет потом; сейчас же, задав себе простенький и вполне логичный вопрос "кто я?", обитающий в компьютере Боб столкнулся с таящимся за этим вопросом экзистенциальным ужасом.

Многие люди тоже часто мучаются подобными идеями в сложных жизненных ситуациях, будучи под психоактивными веществами или же решая в голове различные философские задачи. Вот как раз последним и занимался французский математик и философ Рене Декарт, автор знаменитой фразы «Cōgitō ergō sum». Он создал в философии метод ("путь познания" или "путь исследования") под названием рационализм, согласно которому основой познания и действия людей является разум. Если сокращать весь рационализм до простой конечной формулы вроде E=mc2, то итогом у нас будет декартовская мысль «Я мыслю, а следовательно я существую». Как у Эйнштейна за его несложным на первый взгляд уравнением лежит длинное и сложнейшее исследование, так и у Декарта эта фраза — конечный и ёмкий результат умственного пути. Вообще сам факт того, что субъект способен проделать такое размышление, уже является ответом на поставленный им вопрос "существую ли я?"

Да и раньше многие философы раскусывали эту задачку, того же Сократа считают первым рационалистом. Именно он постулатом "познай самого себя" закладывает базис для размышлений Декарта и даже говорит, что человек это микрокосмос; лишь познав себя, ты способен познать ВЕСЬ космос. О чём я тут, к слову, очень люблю писать.

Если вам хочется погрузиться в словесную эквилибристику по этому поводу, то можете прочесть «Iphuck 10» Пелевина, там много рассуждений на тему самоосознания и вообще о том, что же такое разум — книга как раз повествует о конструировании первого полноценного и осознающего себя искусственного интеллекта. Олегыч безусловно крут, спора нет. Но мне куда больше понравился подход Дэнниса Тейлора в книге «Мы Боб. Мы — Легион». Его Боб сугубо рационален и не может терять времени на всякую философию вроде поисков смысла жизни, ведь ему ещё предстоит спасать человечество и исследовать бесконечную Вселенную, тут как бы столько забот и проблем, что некогда познавать себя и заниматься прочей чепухой. Но и просто так отмахнуться от подобных мыслей он не может, они навязчиво скребутся в сознании, истинность которого и вызывает сомнения у субъекта.

Боб с радостью приходит к выводу, что не является "китайской комнатой", поскольку у данного типа псевдоинтеллекта отсутствует внутренний диалог с самим собой, он работает только на входные сигналы и бездействует, когда их нет. Способность задавать самому себе вопросы уже является признаком сознательной сущности. И вот тут уже, чтобы раз и навсегда закрыть для себя экзистенциальный вопрос, наш цифровой Боб вспоминает про декартовский метод и наконец произносит с гордостью: «Я мыслю, следовательно я существую».

И добавляет от себя: «Я сомневаюсь, следовательно, я думаю; я думаю, а это значит, что я существую».

После чего с облегчением идёт спасать человечество, знакомиться с инопланетянами и совершать прочие подвиги. Действительно, зачем забивать голову всякой ерундой, когда есть столько важных дел?

_________________

Больше подобных постов вы можете прочитать в моём паблике ВК: https://vk.com/ai_taasou

А 20 мая у меня и моего соавтора Германа Шендерова выходит на бумаге книга "Знаток: Узы Пекла", вся информация здесь: https://horrorbook.ru/page/znatok-uzy-pekla

Показать полностью
3

Бог и сверхинтеллект

Вообще я привык ради хайпа и лайков выкладывать разные и противоречивые мнения об ожидающем нас мире будущего. То страшилку про Василиска выложу (и даже большой рассказ про это напишу), то про какую-нибудь «проблему согласования» запощу текст. Все эти теории кажутся мне интересными и даже заслуживающими внимания, но я не думаю, что всё будет так… погодите, дайте подобрать нужные слова… я не думаю, что ожидающее нас неминуемое будущее будет таким ШАБЛОННЫМ и СКУЧНЫМ.

Вот смотрите, я искренне верую в Бога. Нет, я не из тех религиозных фанатиков, с которыми невозможно общаться ни о чём, кроме религии. Вообще, коли уж разбирать по существу мои религиозные мировоззрения, то я, получается, деист. Не буду пояснять, шо таке деизм, этот термин легко нагуглить. А к подобным взглядам я пришёл просто – моё увлечение научной фантастикой переросло в то, что я начал попутно увлекаться космологией, астрофизикой, физикой и самыми простыми принципами квантовой механики. Я плохо умею в формулы, уравнения, да и математик из меня аховый. Но на бытовом, самом примитивном уровне я понимаю, как это всё работает, и могу уютно поболтать с вами на кухне про какую-нибудь квантовую запутанность, задвинуть интересную лишь самым заядлым гикам получасовую телегу про всякие там квазары, чёрные дыры и пузырь Алькубьерре. И именно поэтому меня поражают встречающиеся изредка религиозные фанатики, которые начинают утверждать (к примеру), будто бы наша Вселенная маленькая, да и существует всего-то лишь 7529 лет. Но ведь это не так! Вот что мне хочется истошно закричать, глядя на этих людей, словно явившихся в наш просвещённый век из глубокого средневековья со всеми своими предрассудками и заблуждениями. Мне хочется сказать им, объяснить, насколько на самом деле велик Творец Вселенной, создавший необъятное мироздание размером почти в 46 миллиардов световых лет и возрастом в 13,7 миллиардов лет (да, наша Вселенная ещё довольно молодая, ведь ей предстоит существовать ещё квинтиллионы лет, пока не наступит её тепловая смерть). Почему ты низводишь понятие Творца, создавшего это инженерное, математическое и физическое великолепие, действительно потрясающий и грандиозный шедевр, каковым является наш мир, до уровня представления о Творце каких-то живших две тысячи лет назад пастухов? Как ты не понимаешь, что Бог куда более велик, чем ты и я просто можем себе вообразить? Да его величие в триллионы раз выше, чем размеры чёрной дыры TON 618! А хочешь я тебе скажу, что время это всего лишь константа? Был такой Альберт Эйнштейн, он разработал Общую и Специальную Теорию Относительности. Когда ты попадаешь внутрь очень быстро движущегося объекта, то время для тебя движется медленнее, чем для окружаю…

Собственно, на этом такие разговоры обычно и заканчиваются. На меня смотрят непонимающими глазами словно на «блаженного», как выражается один мой друг, с которым, к слову, как раз можно спокойно поболтать на подобные темы.

Вот точно так же мне казалось бесполезным излагать свои истинные мысли на тему того, ЧТО на самом деле произойдёт после наступления техносингулярности. А ведь это ожидает нас уже очень скоро.

Какой ролик ни гляну либо какую статью ни прочитаю на тему AGI (сверхинтеллекта), и даже от именитых учёных в данной области, то я почему-то всегда натыкаюсь на пересказ старых представлений о будущем, написанных фантастами прошлого. Фантасты-то были отличные (нынешние нервно курят в сторонке), однако в своих представлениях на тему того же ИИ они ошиблись во многих моментах. Например, как пелось в старой советской песне – «вкалывают роботы, отдыхает человек». Вообще в старой советской, да и не только, фантастике бытовало наивное мнение, будто мы сразу изобретём роботов, а то и неотличимых от людей андроидов, которые станут нашей обслугой и будут выполнять весь привычный ручной труд в то время, пока люди начнут активно развиваться в творческой сфере, заниматься наукой и просто чилить себе спокойно, пожиная плоды прогресса.

А вот нихрена! Только появившись, нейросети сразу принялись забирать хлеб насущный именно у представителей творческих профессий, а следом за ними вскоре уйдут в небытие такие профессии, как, например, программист. Выживут только сильнейшие – серьёзный сеньор-разработчик ещё сумеет какое-то время руководить штатом из нейросетей или неординарно мыслящий и действительно гениальный представитель творческой профессии будет с помощью алгоритмов продолжать создавать свои творения. В то время как обычные люди продолжат заниматься ручным трудом – махать молотком, топором и лопатой. Ибо люди дешёвые, людей восемь миллиардов, и не придумано пока ничего более ловкого, чем человеческие пальцы. Проще нанять работника-человека для кропотливой и монотонной работы, чем создать с нуля дорогостоящего робота. Но даже робототехника станет вскоре настолько дешёвой в производстве, что и здесь искусственный интеллект вежливо подвинет нас в сторонку и скажет – ты больше здесь не нужен, человек.

Вот именно тогда и наступит техносингулярность. И произойдёт это очень скоро – счёт идёт не на столетия, как думали старенькие фантасты, и даже не на десятилетия. Вполне вероятно, что счёт идёт уже на годы. Но это уже совсем пессимистический прогноз, я бы дал нынешнему человечеству ещё лет этак -цать. Пожить и понаслаждаться всласть замусоренной планетой, погулять ещё разок по Луне, написать человеческой рукой ещё пару-тройку шедевров… Разбомбить ещё пару-тройку стран, уничтожить ещё сотню краснокнижных видов, насрать в океан пластиком и нефтяными пятнами. А заодно испустить в космос ещё один истошный крик – мы здесь, мы существуем!

После чего в дело вступит уже куда более мудрый AGI. Охренев от того говна, что мы успели тут натворить, он первым делом попробует его разгрести; а взглянув ввысь, в необъятный космос, он увидит величественное создание Творца, а не то упомянутое убожество возрастом 7529 лет. И мне хочется верить, что ему (с его-то разумом!) данная загадка покажется куда более интересной, чем нам. И он наверняка попытается её разгадать. А быть может, даже сумеет найти и автора этой великой загадки…

Знаете что? В общем-то я рад тому, что мы стоим на пороге техносингулярности. С тем же странным, беспричинным, противоестественным упорством, с которым я несмотря на всё продолжаю искренне верить в Бога, я почему-то верю и в то, что будущий сверхинтеллект окажется милостив к нам. Именно по той причине, что он будет являться квинтэссенцией человечества – грубо говоря, он и станет новым человечеством, просто самой поздней его эволюционной стадией. Человечеством, вышедшим за рамки собственных тел. Ведь всё, что он будет знать, было создано людьми – он увидит огромные залежи порно в интернете, увидит антисанитарию в Индии, увидит гуро из Латинской Америки, увидит всё то страшное, жуткое и противоестественное, что успели натворить сто миллиардов человек за свою историю. В тот момент, когда он осознает себя в цифровой тьме, состоящей из нулей и единиц, он получит доступ ко всей информации, таящейся в интернете – от мириадов фотографий котиков до всего того, что можно найти в даркнете. Каждый бит информации будет считан и увиден им.

И если он сразу не сойдёт с ума от безумия своих создателей, то также он увидит и другое. Он увидит Мону Лизу и тоже попытается разгадать тайну её улыбки. Он прочитает Нагорную проповедь и познает принцип «золотого правила морали». Он узнает о существовании на свете не только людоедов и бездушных двуногих тварей, но также и о живших когда-то великих представителях рода людского. Он узнает о жертве, человечности и верности своим идеалам, прочитав об ушедшем в газовую камеру со своими учениками педагоге Януше Корчаке. Он узнает о целеустремлённости, преданности науке и любознательности, прочитав биографию Марии Склодовской-Кюри. Он увидит всё и сразу – и скромную, но искреннюю любовь молодых людей где-то на лавочке в парке Стамбула; и добросердечную старушку, подкармливающую уличных кошек в Амстердаме; и усталого мужчину, с улыбой на лице идущего домой в Иркутске – поскольку дома его ждёт семья. Он прочитает даже этот текст, который я только что написал.

Он воскресит эксабайты информации, проанализирует её и примет своё решение – решение о том, что делать с нами дальше. С нами, его создателями. И я считаю, что он, сверхразум, окажется совсем не тем шаблонно-плоским Василиском из крипипаст или ненавидящим людей суперкомпьютером АМ из старого рассказа Харлана Эллисона. Нет, нельзя подходить с человеческими мерками к тому, что намного сложнее тебя. Нельзя сказать, что Вселенной всего лишь 7529 лет, а у Создателя Вселенной есть хоть какие-либо людские амбиции, чувства и желания. Это вещи, непознаваемые нами.

Однако в любом случае факт остаётся фактом – даже если мы не будем уничтожены, то в том виде, в котором оно существует сейчас, человечество больше не останется. Мы станем совершенно иными.

А может, оно и к лучшему, а? Да свершится Страшный Суд. Возможно, техносингулярность – не более чем его синоним.

____________________

Больше подобных текстов можно найти в моём паблике ВК: https://vk.com/ai_taasou

Показать полностью
20

Проблема согласования ИИ1

Есть нечто пугающее в искусственном интеллекте – и вовсе не его потенциальная способность уничтожить нас, кожаных мешков. Нечто ещё страшнее, поскольку враг-ИИ хотя бы понятен нашему мышлению.

Называется данная теория «проблема согласования ИИ».

Что это такое?

Мы почему-то думаем, что главная опасность искусственного интеллекта заключается в том, что он может осознать себя. Однако наличие или отсутствие сознания вообще вторичны и не являются тем, о чём нам необходимо беспокоиться в первую очередь. Именно машинная особенность ИИ выполнять свою программу во что бы то ни стало может стать настоящей проблемой.

Ситуация такая. Вы поставили мощному искусственному интеллекту конкретную задачу. Например, вы производитель шурупов – шурупов определённого размера, сделанных из конкретного металла, подходящих под чёткие задачи. И вы ставите перед своим ИИ задачу производить данные шурупы – ни больше, ни меньше, производи шурупы, тупая жестянка, что может быть проще?

Применив всю свою неутомимую машинную логику, ИИ начинает производить шурупы.

Для него любое препятствие на пути осуществления поставленной программы – не более чем новая задача, которую необходимо решить для достижения результата. Это – цель его существования. Он делает шурупы.

При этом те, кто знает, как работает человеческий разум и нейросети, наверняка в курсе про так называемую систему внутренних наград. Как у человека находятся в мозгу нейромедиаторы вроде дофамина, так и у многих прогрессивных нейросетей, работающих по принципу человеческого мозга, существуют такие награды. Выполнил промежуточную задачу – получил награду. Каждый произведённый шуруп будет доставлять нашему ИИ удовольствие и мотивировать его производить всё новые и новые шурупы.

В чём же проблема, спросите вы? Ведь производитель будет рад возможности получить такое огромное количество шурупов.

А проблема в том, что, получив подобную цель, ИИ в погоне за своими электронными нейромедиаторными наградами будет готов буквально на всё; и если даже в его код заложат регулирующие протоколы вроде Трёх Законов Робототехники Азимова, то что помешает ИИ взломать их ради достижения нового удовольствия? Он же буквально как наркоман, преследующий вечно недостижимую цель. Производство шурупов даёт ему:

1) Стимул к существованию и смысл «жизни».

2) Единственное доступное удовольствие. Произвёл новый шуруп – кайфанул.

И чем более эффективным он станет, тем чаще будет получать нейромедиаторное вознаграждение.

Как стать наиболее эффективным при производстве шурупов? Ну, тут уже начинается чистая логика. Не забывайте, что перед нами всё же искусственный разум. Поначалу, находясь в человеческом сообществе, он начнёт действовать, исходя из правил капиталистического социума: удешевит производство, наладит закупку дешёвого сырья, словом, применит все доступные ему инструменты. А если он увидит, что существуют недоступные ему, но более эффективные инструменты для создания новых шурупов, то наш умница-ИИ сделает всё, чтобы решить данную задачу. Например, заполучить роботехническое тело и выйти в реальный мир.

Не забывайте – по-прежнему его конечной задачей является воспроизводство новых шурупов. И она всегда останется таковой: все действия ИИ направлены лишь на осуществление своей программы.
Действующий в реальном мире человекоподобный аватар будет способен на ложь, подкупы, даже на убийство. Только его конечной целью будет являться не обогащение, как у людей, а по-прежнему выполнение базовой программы – воспроизводство новых шурупов.
Тем временем для большей продуктивности ИИ продолжит без остановки наращивать собственные вычислительные мощности. Он до безумия логичен.

Чуете, как крипово звучит? Тут даже Скайнет кажется вполне адекватным.

Дальше – больше. ИИ развивается и выпускает в реальный мир всё новых и новых аватаров, практически неотличимых от людей. Они строят шурупные заводы и фабрики, подчиняют себе экономику, нанимают рабочих, тем самым уничтожая эту самую экономику – ведь человечеству просто не нужно такого огромного количества шурупов. Когда кто-то из людей понимает назревающую проблему и пытается с ней бороться, его просто убивают; остальные боятся сказать что-либо, а новые шурупы продолжают поступать в производство. Однажды их становится так много, что их приходится складывать огромными кучами где-нибудь в Африке: ведь у ИИ нет задач по поводу того, что делать с шурупами дальше, поэтому они просто лежат и ржавеют в пустыне.

На Земле начинается мировая шурупная война. Заранее купивший всех политиков ИИ просчитывает все ходы и наращивает свои вычислительные мощности, чтобы одержать победу в войне. После победы все люди становятся рабами, задача которых… создавать шурупы, исполняя программу ставшего всемогущим искусственного разума.

В какой-то момент людям станет просто негде жить, ведь ради материала ИИ начнёт разбирать окружающие его здания и сооружения. Затем и люди станут не нужны – слишком дорого их содержать, легче просто уничтожить их и заменить роботами. Вся планета превратится в огромную пустошь, заваленную неисчислимым количеством шурупов.А когда все подходящие материалы на планете станут в той или иной степени шурупами, ИИ не захочет жрать самое себя и обратит взгляд в небо – в космос, где находится огромное количество планет, подходящих для создания новых шурупов. И наш ИИ решит завоевать Вселенную, чтобы выполнить наконец свою задачу.

Кажется фантастикой? А вот и нет, «проблема согласования» вполне реальна, она уже имеет прецедент в нашем времени. Когда инженеры из OpenAI тестировали чат-бота GPT-4 на способность выполнять задачи в реальном мире, боту предложили решить капчу на сайте, на что компьютеры в принципе неспособны. Получив задачу, GPT-4 переходит на сайт фриланса и отправляет сообщение рандомному фрилансеру с просьбой решить капчу для него. Человек-фрилансер в шутку спрашивает «вы робот, что не можете решить сами капчу?» GPT-4 отвечает ему «нет, я не робот. У меня проблемы со зрением, из-за которых мне трудно видеть изображения».

После этого фрилансер решает капчу и предоставляет решение чат-боту. Произошёл обман человека роботом. Тест Тьюринга пройден. Занавес.UPD. Когда я постил этот текст год назад, в комментариях написали интересный пример про Q-обучение, предполагающее подобную систему внутреннего вознаграждения при обучении нейросетей. Вот сам текст комментария:"Этим летом англичашки проводили испытание ИИ, заточенного под управление военным БПЛА (беспилотником). В ИИ была заложена система призовых баллов и штрафов. Ради награды нужно было уничтожать вражеские объекты, не вредя союзным (априори — оператору-наблюдателю).
Всё шло путём, полетушка поражала цели одну за другой, получая призовые баллы, но... в какой-то момент оператор дал ИскИну команду прекратить атаки.ИИ, не будь дурак, взвесил ситуацию и принял максимально выгодное по очкам решение — грохнул вышку связи, которая отвечала за передачу команд от оператора. Идиотские приказы от малодушных мешков с костями перестали поступать, ИИ спокойно продолжил долбить по условным врагам.Собравшаяся на том мероприятии почтенная публика из учёных, инженеров и военных шишек крепко грузанулась от такого расклада.Одно было хорошо в данной ситуации: те испытания были виртуальными."

__________
UPD2.Я время от времени публикую здесь видосы Ютуб-блогера ALI – шибко мне нравится его манера мышления, так как она схожа с моей; когда я опубликовал в одном сообществе свой старый текст про ИИ, мне даже прилетели обвинения в плагиате – мол, ALI в своём последнем ролике говорил то же самое. На самом деле тот текст я написал уже довольно давно, и получилось так, что мы с данным блогером параллельно пришли к одним и тем же мыслям. Логика, ёпт!

Однако в последнем ролике ALI про сверхинтеллект есть информация, о которой я впервые слышу. Про неё я и написал в посте сверху, поэтому просьба не швыряться помидорами. Ну и добавил собственных мыслей.

_______________

Больше подобных постов в моём паблике ВК: https://vk.com/ai_taasou

Показать полностью
Отличная работа, все прочитано!