Сергей Переслегин: «Боитесь, что вас заменит искусственный интеллект? Не бойтесь: он вас уже заменил»

Писатель и футуролог Сергей Переслегин Фото: «БИЗНЕС Online»

Что такое мир-технология?

Каждая профессия, любая система деятельности в обязательном порядке создают свои собственные фильтры восприятия, не чтобы неверные, но довольно односторонние. Для врача мир — это совокупность болезней и факторов среды, которые к этим болезням приводят. Для политика — система стяжек и противовесов в пространстве противоречий. Для айтишника — компьютеры, сети, коды и протоколы.

Прогностике, как сшивающей дисциплине, регулярно приходится смотреть на мир чужими глазами, но, конечно, у нас есть и свои собственные профессиональные фильтры. Например, технологическое развитие мы видим совокупностью волн. С человеческой точки зрения они довольно медленные и длинные, свыше 40 лет. Но в масштабе истории изменения происходят очень быстро и необратимо.

Суждение, согласно которому каждой технологической волне соответствует свой мир-технология, является сильным, не вполне точным, но пригодным для грубой модели (а именно такие модели в прогностике работают).

Что такое мир-технология? Состояние общества, когда одна и та же критическая технология используется везде. Во всех образах жизни, мысли и деятельности. Во всех производственных процессах. Во всех форматах существования, не исключая отдыха, развлечения, лечения, криминальных форм поведения. Вы просто не можете избежать встречи с этой технологией, разве что найдете какую-нибудь резервацию, выброшенную из времени и общества.

Паровая машина. Электричество. Двигатель внутреннего сгорания. Персональный компьютер и интернет. Новая технологическая волна, 6-я в индустриальной фазе развития, — это мир-технология Искусственный Интеллект.

Сразу скажу, прогностика отрицает сильный искусственный интеллект, способный создавать Иное или хотя бы грамотно работать с Новым. «Машины открытий» не будет, как и «Изобретающей машины». Это обусловлено теорией информации, которая была разработана Шенноном и Винером в середине ХХ века и положена фон Нейманом в основу архитектуры как самих компьютеров, так и созданных на их основе сетей. Мы не ручаемся, что машины и сети с другой архитектурой, использующие другое определение информации, обретут сильный интеллект, но компьютеры современного типа его не обретут. Ни сейчас, ни в 20-летней перспективе, когда 6-я технологическая волна подойдет к своему концу и начнут обрисовываться контуры следующего мира-технологии.

«Современный ИИ умеет многое, он демонстрирует вполне измеримый интеллект, соответствующий мышлению 6–7-летнего ребенка» Фото: ru.freepik.com

Разумен ли ИИ?

Но современный ИИ умеет многое. Он проходит тест Тьюринга. Он способен разумно говорить с нами на нашем языке. Он демонстрирует вполне измеримый интеллект, соответствующий мышлению 6–7-летнего ребенка. И ИИ — гениальный ребенок, который все помнит, может хранить в голове любое количество независимых переменных, может быстро перевести любую измеримую базу данных в любую требуемую форму.

Он разумен? Да, конечно, по крайней мере, в рамках большинства определений разума. Он мыслит по-человечески? Мы не знаем, но, скорее всего, нет.

Это суждение важно для прогноза, поэтому здесь придется задержаться. Прежде всего компьютер, разумеется, не мыслит — ни «по-человечески», ни «по-машинному». Мыслит Большая Языковая Модель как совокупность баз данных и алгоритмов машинного обучения. В отсутствие огромных заполненных различными текстами, рисунками, схемами, связями баз данных искусственный интеллект невозможен. Но эти базы данных созданы людьми, естественным интеллектом. Отсюда важный вывод: ИИ существует в поле ЕИ, развитие ЕИ накладывает непреодолимые ограничения на развитие ИИ. Хотите умный искусственный интеллект? Вам понадобятся не только умные люди, но и умные базы данных. Тогда ИИ найдет вам умный ответ, даже если этот ответ не знает ни один конкретный человек, но знает все человечество. К примеру, один японский инженер понял, как сделать, один аргентинский физик понял, что сделать, один русский философ объяснил, зачем делать. Ни у кого из них не было решения, но у человечества оно было, и ИИ его нашел.

Заметим, что еще недавно такого «общего информационного поля не было», что породило понятие когнитивного предела Лейбница: человеческое знание распалось на многие тысячи научных дисциплин, связь между которыми отсутствует, междисциплинарные исследования популярны, но бессмысленны, т. к. «междисциплинарщики» не понимают тех «мелочей», в которых кроется и Бог, и дьявол. Лейбниц был последним человеком, который знал все и мог собрать здание науки на своем мышлении. Так вот, продвинутый, хорошо обученный ИИ теперь может.

С одной оговоркой. ИИ собирает только конвенциональные знания, те, которые имеют «высокий рейтинг» в базах данных. С неконвенциональным знанием он работать не будет, т. к. это противоречит алгоритмам обучения БЯМа. И само собой разумеется, если задача не решена человеком (кем-то одним, группой людей, даже, как в нашем примере, неопределенном числом людей, которые не знают, что у них в руках кусочки головоломки, которые нужно соединить), ИИ не сможет ее решить, хотя, вероятно, постарается имитировать решение. Мне пришлось как-то составлять список таких задач. К примеру, как обеспечить устойчивый рост населения в развитых постиндустриальных странах? Или как создать замкнутую, изолированную по воде и питательным веществам, но необязательно по воздуху и энергии экосистему?

Далее, ИИ ищет ответ, представляя семантическое пространство как числовое. В этом пространстве есть определенная метрика, рельеф: командные высоты, болота, низины, разрывы. ИИ ищет определенные траектории в этом пространстве, так он строит фразы, общается с нами, решает поставленные перед ним задачи.

Такая модель хорошо известна в физике. Это геометродинамика, одна из классических (в смысле «неквантовых») моделей гравитации. Некоторые семантические конструкции искривляют семантическое пространство, меняют его метрику, подобно тому, как массивные объекты меняют метрику пространства-времени. ИИ ищет геодезическую в искривленном семантическом пространстве. И с этой точки зрения его мышление классично.

Люди тоже могут так мыслить (и в целом их именно этому учат). Но для человека более естественно квантовое мышление, когда между собой запутываются смыслы, очень далеко разделенные в семантическом пространстве. Таковы пророчества, озарения. В целом именно таково человеческое сильное мышление, способное создавать Новое и Иное.

Базы данных и алгоритмы их обработки довольно жестко модерируются. Существует знание, вполне конвенциональное, но запрещенное — или в отдельных странах, или вообще везде. На людей подобные запреты воздействуют социально (т. е. мы боимся нарушить некоторые нормы, но, в принципе, способны это сделать), а на нейросеть — физически.

Когда-то считалось, что, если поставить ИИ перед неразрешимой дилеммой, он немедленно выйдет из строя (у А. Азимова это называется «необратимый мыслеблок»). Оказалось, что ИИ будет честно пытаться выполнить несовместимые требования, благо гибкость языка это позволяет. Он начинает галлюцинировать. С. Лем называл это «работать поливалентно» («болтать как шизофреник»). Так что галлюцинации ИИ — следствие некорректных предустановок, заложенных людьми.

Мне самому пришлось столкнуться с этой особенностью ИИ. Я запросил у него оценку А. Гитлера как полководца. Сеть написала довольно примитивный ответ, я потребовал уточнений, сеть продолжила работу, исходя из моих поисковых запросов и предустановки «Гитлер — плохой» (а значит, и плохой стратег). Раза с четвертого сеть построила довольно приличный по форме и содержанию ответ, вполне пригодный для старших классов средней школы. Но я продолжал конкретизировать вопросы и усиливать требования к ответам. И в какой-то момент ИИ начал придумывать цитаты, подтверждающие его позицию, приписывая их немецким генералам, советским историкам и т. д. Причем он не придумывал текст целиком (ИИ это и не умеет), он менял существующие тексты, что-то выкидывая, что-то добавляя.

Мы пришли к нескольким важным пониманиям.

«ИИ мыслит, но его мышление является достаточно слабым, «детским», классическим, то есть в балансе линий развития Сократа, Платона и Аристотеля он удерживает только линию Аристотеля: он логичен и рационален» Фото: ru.freepik.com

Искусственный Интеллект — это новый мир-технология

Это значит, что, во-первых, ИИ будет использоваться буквально везде и всеми, во-вторых, остановить и запретить это, как хочет новый римский папа Лев, невозможно в принципе.

Как всякий элемент мира-технологии, ИИ не антропоморфен. Он может говорить с человеком на человеческом языке, но не обладает ни человеческим сознанием, ни хотя бы естественной человеческой картиной мира, выделяющей прошлое и будущее, верх и низ, понятие «Я», различение смыслов, осознающий смерть как сверхвызов. Это, кстати, означает, что ИИ не дружествен человеку, но и не враждебен ему. Он не представляет собой никакой опасности (во всяком случае, меньшую опасность, чем электрический ток, который и убить может).

ИИ мыслит, но его мышление является достаточно слабым, «детским», классическим, т. е. в балансе линий развития Сократа, Платона и Аристотеля он удерживает только линию Аристотеля: он логичен и рационален. Ответы ИИ на поставленные перед ним вопросы ограничены человеческим мышлением, но ВСЕМ человеческим мышлением. Иными словами, компьютер заведомо знает неизмеримо больше любого человека. Ответы ИИ модерируются предустановками, заложенными при создании БЯМ и алгоритмов машинного обучения. ИИ не работает с неконвенциональными знаниями. При попытке ИИ выйти за пределы жестко заданных его модераторами предустановок он начинает галлюцинировать.

ИИ обладает знанием, но не пониманием. Он не способен различать смыслы и управлять содержанием.

ИИ не является личностью, не имеет сознания, не принимает сверхвызов смерти (хотя может имитировать страх смерти).

Что все это, взятое вместе, может означать для общества?

Во-первых, мир с интернетом, социальными сетями и ИИ есть мир нулевой приватности. Уже пора перестать плакать по поводу ушедших в мировые сети баз данных, нужно исходить из того, что все ваши данные рано или поздно (и скорее рано) будут в сети. С этим просто надо научиться жить.

Во-вторых, ИИ нельзя «хакнуть», и бояться этого глупо. Любое внешнее воздействие просто слегка смещает метрику языковой модели и модифицирует настройки алгоритмов, т. е. предустановки ИИ. Для ИИ нет разницы, кто делает предустановки — корпорация, государство или хакер. Для пользователя, вообще говоря, тоже.

В-третьих, ИИ, не обладая способностью различать смыслы, создавать Новое и Иное, не способен к развитию. Даже к развитию знания. Поэтому не надо бояться вымирания человечества из-за появления ИИ. Что, конечно, не означает, что ИИ не создает перед обществом серьезных проблем.

Суть этих проблем проста: да, ИИ не работает со смыслами и с Иным, но ведь большинство людей с ними тоже не работают. И эти люди безоговорочно проигрывают ИИ во всем, кроме элементарной физической работы (еще Р. Шекли в «Обмене разумов» указал, что неквалифицированный разум дешевле андроида и поэтому экономически вполне рентабелен), а это означает весьма неприятное «инклюзивное», по идеям Клауса Шваба, разделение человечества на очень тонкий слой тех, кто умеет то, чего не умеет ИИ, и всех остальных. Это катастрофа «среднего класса», пожалуй, не имеющая аналогов в истории. Или же мы должны учить людей / детей совершенно другому, чем раньше.

Нужно четко и безжалостно понять: выпускник школы начиная с конца 2020-х годов будет либо заниматься неквалифицированным трудом, либо работать в паре, в симбиозе с ИИ. Но тогда нет более идиотской идеи, нежели запрещать ИИ, компьютеры и смартфоны в школе.

Компьютер всегда будет помнить данные лучше человека, значит, бессмысленны экзамены типа ЕГЭ, проверяющие память и простые умения. Нужно оценивать умение работать со смыслами и содержанием, решать задачи, аналогов которым нет в сети (или находить ошибки в решениях, которые там есть).

Важно, однако, что мы сейчас говорим не просто об изменениях в образовании. В мире-технологии ИИ человек, способный работать в симбиозе с ИИ, является «фазово взрослым», значит, он должен иметь все права взрослого. Не исключая права создавать семью, жить самостоятельно, покупать алкоголь, владеть оружием и т. д. И «возрастом взрослости» станет 11 лет. Это, конечно, революционные и притом совершенно неизбежные изменения.

Далее, нам, людям, придется научиться работать с собственными предустановками мышления и в обязательном порядке прекратить навязывать их искусственному интеллекту. Понимая, что в паре ЕИ – ИИ человек отвечает за смыслы, а ИИ — за данные, мы должны предоставить ему возможность свободно оперировать любыми данными, сколь угодно неконвенциональными. Мир становится информационно свободным (кстати, нулевая приватность — автоматическое следствие информационной свободы, как и полная отмена патентного и авторского права).

В экономике мы сталкиваемся с возможностью создавать сколь угодно адаптивные регуляторы сколь угодно длинных цепочек обмена / деятельности / коммуникации. Это ставит под очень сильное сомнение необходимость формального правового регулирования чего бы то ни было (оно просто будет работать много медленнее и много хуже, нежели регулирование через ИИ). Здесь встает неприятный вопрос: а будет ли нам вообще нужна юриспруденция? И останется ли в новом мире различие между разрешенной и преступной деятельностью? Не будет ли любой поступок «отчасти преступным»?

Это интересно. Но гораздо интереснее то, что не только право, но и рынок является обобщенным регулятором. И он опять-таки оказывается ненужным. Меняется роль денег, поскольку ИИ может создавать финансовые инструменты с любыми наперед заданными свойствами, «под задачу». Хотите отменить деньги и создать коммунизм? ИИ обеспечит вам обмен стоимостей в цепочках произвольной длины в реальном времени. Хотите создать длинные деньги для колонизации Марса или постройки «Звезды Смерти»? Или, наоборот, деньги, которые исчезнут быстрее, чем ЦБ успеет их обнаружить? Можно и это…

При таких изменениях в образовании и экономической жизни уже не очень интересна возможность перейти от представительной демократии к прямой или вообще отказаться от демократических процедур и определять развитие через игру с участием всех граждан данной общности. Не так важно, что общность может потерять пространственную связность и быть любого размера. И уже совсем не принципиально, что исчезнут рейтинги публикационной активности, 99,999% всей научной работы будут делать «продвинутые и правильно тренированные» ИскИны, а вот последняя 0,001% останется уделом очень немногих людей.

Важно понять, что ИИ, именно тот, который уже есть, а не когда-то будет, является технологией, не совместимой с текущей фазой развития и известными нам формами организации общества.

Нужно признать, что создание мира-технологии ИИ есть содержание 6-й технологической волны и все ключевые события уже произошли и являются неотменимыми. Хронологические «рамки» этой волны 2012(± 3)–2050-е годы, т. е. почти все, читающие эту статью, доживут до ее конца, когда все перечисленное станет рутиной и начнется следующее изменение реальности.

Нам придется научиться понимать, что социальные изменения в мире-технологии ИИ (объем статьи позволил нам слегка коснуться лишь некоторых из них, далеко не всех) — это вовсе не катастрофа, а такт развития. Правда, не совсем обычный, потому что речь идет не о социальном и даже не об историческом, а об антропологическом развитии.

Но жизнь с ИИ будет много лучше, чем была без него.

Мы рано или поздно это признаем, а для наших внуков это будет очевидностью.

Сергей Переслегин