Пространство возможных разумов: как подготовиться к миру киборгов, гибридов и химер

Майкл Левин утверждает, что современное понимание интеллекта слишком узко. Человек и искусственный интеллект лишь две точки в огромном спектре возможных разумных существ, который будет становиться все разнообразнее и сложнее Фото: freepik.com

Дивный новый мир

«Задолго до искусственного интеллекта мы создавали интеллектуальных агентов высокого уровня: детей. Хотя вызовы, с которыми мы сталкиваемся из-за ИИ, кажутся новыми, в реальности они отражают фундаментальные древние вопросы о том, что значит быть человеком. Как нам убедиться, что новые поколения существ разделяют наши ценности?» — задается вопросом известный американский биолог Майкл Левин. Его недавние работы «Пространство возможных разумов» и «Искусственные интеллекты: Мост к разностороннему интеллекту и будущему человечества» (последняя была опубликована в конце апреля в научном журнале Advanced Intelligent Systems) выглядят как научная фантастика. Но надо держать в голове, что это работы профессора, в чьем портфолио сотни научных статей, индекс Хирша — 100 (считается, что индекс выше 16 — это уже ученый с мировым именем), а сам он выступает одновременно завкафедрой им. Ванневара Буша на биологическом факультете Университета Тафтса, директором центра исследований Аллена в Тафтсе и доцентом Института биоинженерии Висса в Гарвардском университете.

Левин утверждает, что современное понимание интеллекта слишком узко. Человек и искусственный интеллект лишь две точки в огромном спектре возможных разумных существ, который будет становиться все разнообразнее и сложнее. «Нашей целью должно быть расширение нашей узкой способности распознавать разумы и научиться процветать среди множества различных видов интеллекта — от людей до ИИ и более странных и удивительных существ, которые появятся в будущем», — прогнозирует он. Мир будущего, по Левину, населен химерами — гибридами биологических и технологических существ, людей-киборгов, в тела которых встроены биомедицинские технологии.

Они есть уже сегодня: на 99% — человек и на 1% — технология, например умная инсулиновая помпа или мозговой чип. «В ближайшие 10–20 лет мы столкнемся со множеством гибридных существ, начиная с людей, состоящих из некоторого процента сконструированных мозговых протезов, которые улучшают и модифицируют когнитивные функции и обеспечивают новую сенсорную и функциональную жизнь в пространствах, о которых люди v1.0 едва ли могли мечтать. За ними вскоре последуют люди, живущие в радикально измененных телах (биологически и технологически), и в конечном итоге — сконструированные автономные существа с некоторым процентом человеческих клеток и многое другое», — предполагает ученый.

Левин подробно рассматривает, как интеллект масштабируется от молекулярных механизмов до сложного метакогнитивного разума Фото: freepik.com

Синтбиоз

Химерами Левин называет и чат-боты — модели ИИ, которые переняли некоторые структуры человеческой речи и мышления. «Программные языковые модели всего лишь один предвестник огромного пространства вариантов будущих существ, которые не ограничены стандартной формой и функцией, навязанными им извилистостью мутации и отбора, а также нашими неудачами в возможностях и воображении», — говорит ученый. Все это, по его словам, потребует от человека быстрой разработки и адаптации не только технологических, но и этических рамок.

«Перед нами стоит задача разработать рациональную политику этического синтбиоза (synthbiosis), термина, придуманного для меня языковой моделью GPT-4, чтобы охватить понятие симбиоза эволюционировавшего и сконструированного материала в новых химерных конфигурациях (например, киборг, гиброт и другие новые составные существа на уровне клеток, организмов и обществ)», — подчеркивает он. Синтбиоз подразумевает:

• пересмотр понятий авторства и творчества;
• разработку новых протоколов безопасности для биотехноинтерфейсов;
• признание агентства за нечеловекообразными формами разума.

Левин подробно рассматривает, как интеллект масштабируется от молекулярных механизмов до сложного метакогнитивного разума. Он отмечает, что даже на уровне молекулярных сетей существуют рудиментарные формы обучения и интеллекта. «Мы часто сравниваем ИИ с нами, современными взрослыми людьми. Но каждый человек когда-то был неоплодотворенной яйцеклеткой — маленьким сгустком химии и физики. Путь оттуда к сложному метакогнитивному разуму постепенен, и нигде на этом пути нет четкой разделительной линии между „сгустком химии и физики“ и самосознающим человеческим разумом», — говорит он.

По его словам, реальность такова, что мы пока не знаем, как на самом деле работает человеческий мозг, и у нас есть ограниченное понимание того, как работает даже сегодняшний ИИ. При этом мы можем создавать системы, возможностей которых мы не понимаем, так что человечеству придется смириться с тем, что за пределами его очень узкого опыта может возникнуть воплощенный интеллект.

Реальность такова, что мы пока не знаем, как на самом деле работает человеческий мозг, и у нас есть ограниченное понимание того, как работает даже сегодняшний ИИ Фото: freepik.com

И чем будет человек?

Каждый вид сталкивается с этим фундаментальным парадоксом: если он не меняется, то вымирает. Если он меняется, это уже не тот вид, рассуждает ученый. Грядущая волна людей, киборгов, гибридов, биологических мозгов, управляющих роботизированными телами, повлияет на все, от правовой системы до нашей повседневной жизни. Уже меняется, например, понятие авторского права: если кто-то использует ИИ для создания чего-либо, за кем авторство?

На пороге нового мира у человека есть страх «потерять человечность». Но, рассуждает Левин, каждая технология меняет нас — от приручения огня и выращивания пшеницы до калькулятора. «Мой близкий друг, лесничий, был шокирован, обнаружив, что я, взрослый мужчина, не обладаю навыками, чтобы успешно найти, выследить, приготовить и съесть оленя, если я голоден. Он считал, что люди потеряли бо́льшую часть себя, отдав еду на аутсорсинг, хотя, кажется, большинство из нас согласны на такой компромисс, — приводит пример он. — Фундаментальная задача, стоящая перед нами, — определить, какой аспект „человечности“ имеет решающее значение для сохранения. В спешке по разработке „сертификатов подтверждения человечности“ для проверки происхождения творческого контента нам нужно спросить себя, что именно мы хотим проверить. Если речь идет о трогательном произведении искусства или полезной науке, то правильным будет вопрос „Что его создало?» или вопрос должен быть „Оно нас возвышает?“».

Дальше — больше. Левин призывает задуматься, стоит ли вообще пугаться и сопротивляться присутствию модифицированных и синтетических существ. «Наши биомедицинские ограничения, от продолжительности жизни до IQ, не были оптимизированы для счастья, интеллекта или любой из наших ценностей — они просто то, что оставили нам извилины случайной мутации и отбора. Мы не должны быть преданы этим поверхностным аспектам нашего бытия, — утверждает биолог. — Если стандартное биологическое человечество будет вытеснено популяцией высокоинтеллектуальных, мотивированных, творческих агентов с огромным радиусом сострадания и осмысленной жизнью, которые превосходят наши нынешние ограничения во всех отношениях, на какой лучший результат мы могли бы надеяться?»