Ответ на пост «Возможна ли третья зима ИИ?»
На данный момент не существует достаточных данных для продуктивного обсуждения данной темы даже в ключе научной фантастики. Вся область ИИ находится в бурном состоянии эмбрионального развития на сроке, когда невозможно определить даже пол плода. Любые фантазии о будущем развитии ИИ совершенно неопределенны и нестабильны. ИИ сегодня - больший маркетинг, чем что-либо другое. Одно то, что не существует общепринятого мнения и уж тем более термина AGI ни один человек не может даже приблизительно оценить потолок данного технологического скачка. Я думаю, что впереди будет всё, вопрос только какой длительности. Если разбираться в сущности данного вопроса, то надо понимать следующее.
1. Данная технология несёт в себе потенциальные множество угроз разного типа всему человечеству (особенно до реализации её финальной стадии в виде AGI), которые объективно не поддаются оценке и прогнозированию. Как пойдёт развитие ИИ не знает никто. А значит и ответа на вопрос в шапке не существует.
2. ИИ обладает ужасающим манипулятивным потенциалом, от которого как от любого замечательного сильнодействующего наркотика невозможно отказаться как минимум до появления первых негативных внешних проявлений, которые могут свидетельствовать об уже серьезных тяжелых внутренних расстройствах. Так и тут разрушительная сила ИИ в манипуляции общественным мнением и контролем над обществом легко заведёт человечество в дегенеративный тупик (уже сейчас средний iq на планете стабильно падает уже который год). Этот факт может быть осознан властью настолько поздно, что данный Зион может потребовать обновления, и выбор между жизнью и смертью будет выглядеть парадоксально и абсурдно. И вся трудность будет заключаться в отсутствии убедительных четких этических критериев оценки возможных мер и прямом противоречии любого из них прямым интересам соответствующей части верхушки власти, а значит в ещё более трудном поиске того Нео, способным взять на себя личную ответственность за будущее человечества и в тоже время сознательно готовым вовремя уйти в небытие с клеймом Антихриста.
Примерно через 10 лет в Зионе будет уже 9 млрд особей. Тема этики при таком числе жителей важна в равной степени, как и любая другая, которая ставит вопрос ценности жизни индивида в рамках текущего мировоззрения и будущего человечества.
Тупейший пример. Если из 9 млрд 8 будет жить для того, чтобы периодически вставлять в голову ложку и справлять простейшие потребности, неизбежно встанет вопрос: был ли поворот с помощью ИИ в эту ветку удачным/эффективным/положительным? Уже сейчас бытует неэтический вопрос перенаселения Земли подобными двуногими существами, и этичного разрешения данного вопроса в рамках текущих мировоззрений и этики нет и быть не может, как бы его ни маскировали под пандемии и тп случайные катастрофы.
Таким образом на более частный вопрос о зиме ИИ и тут ответить сложно. Однако, если 3я зима подразумевает некоторую паузу в разработке нового наркотика большей эффективности и меньшего вреда здоровью, это будет иметь разные физические последствия для всего человечества. Проблема аналогична проблеме конкуренции поиска новых антибиотиков и резистентности бактерий к текущим: мы можем не успеть... Надо понимать, что высокотехнологичное общество живёт в ускоряющемся ритме, и любое застойное явление для него вредно.
3. Возможно (и я надеюсь на этот вариант) власть осознает все возможные риски и никогда не запустит необдуманное применение ИИ с отрицательными последствиями для развития общества. Только данная ситуация также щепетильна для денежных мешков, как и вставший в штанах член у мальчишки, едущим рядом с красивой девушкой в набитом людьми автобусе. Увы, большой капитал сегодня не является гарантией человечности его создателя. Применение даже самых примитивных имитаций ИИ уже пошло взрывообразно. Не скажешь, что они вредны в том, где они уже приносят только пользу. И пока увольнения затронули малое ограниченное число людей, которое не критично для общества и не имеет масштабов кризиса США 1920х годов.
А где их уже используют с какими-то иными целями - не Богу весть... В этом варианте 3я зима практически равна самому развитию AGI, значение и определение которого на текущий момент неопределенно.
Он как некий нечеткий идеал будет появляться поэтапно, и всегда в моменты, когда общество будет готово к этому. Судя по текущему внедрению, этот момент настал для некоторых сфер индустрии, которая испытывает либо дискомфорт от человеческого труда в ней, либо вообще кадровый голод.
В определении подходящего момента есть характерные признаки.
Я надеюсь, золотая лихорадка ИИ скоро перейдёт в стадию осознанной здоровой разработки.
Конечно денежным мешкам очень тяжело держать себя в руках от соблазна быстрого выигрыша. Тратятся фантастические суммы денег, сравнимые наверное с образованием нескольких индустриальных сфер.
Человечеству выпало новое испытание.
И если коротко ответить.
3-я зима будет, только наступит попозже и навсегда.
Чем ближе человек будет к созданию AGI (суть которого неопределённа), тем слабее будет у него желание открыть ящик Пандоры, испробовать наркотик разума, сильнее которого вряд ли что существует. А если наступит такой момент, природные способности человека перед этим шагнут на иной уровень, и возможно тогда AGI покажется нам детской мечтой и первой любовью к самой красивой девочке в классе, которая навсегда останется платонической.
