«Революция в области искусственного интеллекта находится в центре дебатов между теми, кто надеется таким образом спасти человечество, и теми, кто предсказывает его гибель», — говорят в Google. Компания создает своего чат-бота, роботов, которые сами учатся играть в футбол и шахматы, и с изумлением обнаружила, что их нейросеть сама освоила бенгальский язык, которому ее никто не учил. Обретет ли искусственный интеллект сознание, каких белых воротничков заменит и насколько все это безопасно для общества?
У Google есть свой чат-бот Bard, но в тестах он сильно уступает ChatGPT. Волна неудач началась с первой презентации нейросети, где Bard в прямом демонстрационном эфире заявил, что телескоп «Джеймс Уэбб» сделал первые снимки экзопланет — и это оказалось ложью
Как Google бьется за нейросетевое лидерство
На прошлой неделе The New York Times обнародовала новость, более чем наглядно иллюстрирующую роль нейросетей в конкурентоспособности глобальных корпораций. Новость заключается в том, что Samsung рассматривает возможность сменить в своих устройствах предустановленный поисковик с Google на Microsoft Bing — в тандеме с собственным нейросетевым чат-ботом. Цена этого решения (если оно реализуется) для Google — $3 млрд, имиджевые потери еще выше. Издание называет происходящее самой большой угрозой для компании за 25 лет.
У Google тоже есть свой чат-бот Bard, но в тестах он сильно уступает ChatGPT. Волна неудач началась с самой первой презентации нейросети, 8 февраля, где Bard в прямом демонстрационном эфире заявил, что телескоп «Джеймс Уэбб» сделал первые снимки экзопланет — и это оказалось ложью. По данным Reuters, после этого материнская компания Alphabet потеряла $100 млрд рыночной стоимости.
Чтобы развенчать впечатление об отставании в гонке за лидерство в области ИИ, компании пришлось подключить тяжелую артиллерию. СЕО Google Сундар Пичаи, сразу два вице-президента и три руководителя профильных «дочек» продемонстрировали для сюжета CBS все возможности нейросетей, которыми занимается компания. И (если верить восторженной реакции журналиста американской телерадиокомпании) эти возможности впечатляют, а нынешний этап развития технологий будет таким же значимым для человечества, как освоение огня, начало земледелия и открытие электричества. «Машина научилась разговаривать с людьми на равных: творчески, честно, ошибаясь и обманывая. Она проявляет человечность и навыки сверхчеловека одновременно», — приходит к выводу журналист.
«Нейросети неразумны. Они не осознают себя. Но они обучались у людей и могут демонстрировать поведение, похожее на человеческое»
Что умеет Bard и Co?
Самая болезненная история — чат-боты. Журналист на камеру протестировал Bard, предложив ему для начала… коротко пересказать Новый Завет. Нейросети понадобилось пять секунд и 17 слов (на английском). Результат переводится так: «Новый Завет — это история любви Бога к человечеству, которая была явлена через Иисуса Христа». Перевод этого результата на латынь занял еще четыре секунды.
Затем была попытка обыграть знаменитый рассказ из 6 слов, который часто приписывают Хемингуэю: For sale, baby shoes, never worn (с англ. «Продаются детские ботиночки, неношеные»). Журналист попросил нейросеть закончить этот рассказ и получил полноценную, очень человеческую историю с новыми персонажами, включая мужчину, чья жена не могла зачать ребенка, и незнакомку, скорбящую после выкидыша. Bard затем перевел это в стихи, которые заканчивались знанием матери о том, что душа ее погибшего ребенка «всегда будет жива».
«За несколько месяцев Bard прочитал почти все в интернете и создал модель того, как выглядит язык. Его ответы исходят не из поиска в интернете, а из этой созданной языковой модели. […] Он пытается предсказать наиболее вероятные следующие слова на основе всего, что он узнал», — рассказал старший вице-президент компании Джеймс Маньика.
На вопрос, почему нейросеть помогает людям, Bard ответил: «Потому что это делает меня счастливым». Но это не должно вводить в заблуждение.
«Нейросети неразумны. Они не осознают себя. Но они обучались у людей и могут демонстрировать поведение, похожее на человеческое. Наши чувства, эмоции, идеи, мысли, точки зрения мы отразили в книгах, в романах, в художественной литературе. И нейросети, обучаясь, строят на этом шаблоны. Потому их поведение иногда выглядит так, будто за этим кто-то стоит. Но там никого нет», — подчеркивает Маньика.
«Мог ли Хемингуэй написать рассказ лучше? Может быть. Но Bard может написать миллион, прежде чем Хемингуэй хотя бы дотянется до ручки», — рассуждает он.
Как роботы осваивают футбол и шахматы?
Пичаи продемонстрировал один из продуктов лаборатории искусственного интеллекта Google в Лондоне (DeepMind), который представлял собой роботов, играющих в футбол. Загвоздка в том, что люди не программировали этих роботов для игры — они научились футболу сами.
Пичаи с 2019 года возглавляет Google и его материнскую компанию Alphabet, стоимость которой оценивается в $1,3 триллиона. Во всем мире Google управляет 90% поисковых запросов в интернете и 70% смартфонов. Но его господство было подорвано в феврале этого года, когда Microsoft представила своего нового чат-бота. В гонке за доминирование ИИ Google только что выпустил свою версию под названием Bard.
Райя Хадселл, вице-президент по исследованиям и робототехнике, рассказала, что инженеры использовали технологию захвата движения, чтобы научить программу ИИ двигаться как человек. И роботам сообщили только цель — забить гол. Самообучающаяся программа потратила около двух недель на тестирование различных ходов и научилась стратегии и тактике игры.
А гендиректор DeepMind Демис Хассабис показал еще одну обучающую игровую программу AlphaZero. Она придумала выигрышную шахматную стратегию, которую еще не использовал ни один человек. «Он играет сам с собой десятки миллионов раз. Таким образом, он может исследовать части шахмат, о которых, возможно, шахматисты-люди и программисты, программирующие шахматные компьютеры, раньше не задумывались. Вы запускаете AlphaZero утром, к обеду способен обыграть меня и большинство шахматистов. А к вечеру сильнее чемпиона мира», — пояснил он.
На вопрос, какие рабочие места будут сокращены, Пичаи отвечает однозначно: «работники умственного труда» — писатели, бухгалтеры, архитекторы и по иронии судьбы инженеры-программисты
Готово ли общество к тому, что его ждет?
Пичаи убежден, что революция искусственного интеллекта состоится гораздо раньше, чем можно ожидать. Что произойдет?
Готово ли общество? «С одной стороны, нет, потому что скорость адаптации наших социальных институтов к нововведениям несопоставима со скоростью, с которой развиваются технологии. С другой стороны, на ранних этапах люди беспокоятся о любых технологиях, так что я настроен оптимистично», — заверил он.
Как изменятся профессии? По словам Маньики, главные изменения будут в самих рабочих задачах. «С внедрением ИИ и автоматизации изменится две трети рабочих мест. Научатся работать вместе с машинами, которые дополняют то, что делают люди», — считает он. А Пичаи подчеркивает, что «ИИ повлияет на каждый продукт каждой компании».
На вопрос, какие рабочие места будут сокращены, Пичаи отвечает однозначно: «работники умственного труда» — писатели, бухгалтеры, архитекторы и по иронии судьбы инженеры-программисты.
Внедрение ИИ даже в Google идет непросто: несколько сотрудников уволились, одни считают, что внедрение искусственного интеллекта в компании происходит слишком медленно, другие — что слишком быстро.
В Google обращают внимание, что сегодня большинство систем ИИ хорошо справляется с одной или двумя задачами
Риски ИИ с точки зрения Google
Галлюцинации. Маньика попросил Bard рассказать ему об инфляции — и нейросеть мгновенно написала ему эссе по экономике и порекомендовала пять книг. Беда в том, что ни одной из этих книг не существует в реальности. Такое свойство уверенно давать ошибочный ответ в индустрии называется галлюцинацией. И они случаются постоянно, Пичаи говорит, что никто из игроков отрасли эту проблему еще не решил. И вообще большой вопрос — можно ли ее решить. Сам СЕО Google ограничивается обтекаемой формулировкой: «Думаю, мы добьемся прогресса». И рассказывает, что в качестве таблетки от галлюцинаций в Bard вшили кнопку «погуглить», которая ведет к устаревшему поиску, а также фильтры, которые должны отсеивать неэтичные результаты.
Дезинформация. Использование ИИ в нехороших целях — это уже системный риск, и Пичаи уверен, что масштаб данной проблемы будет намного больше, чем мы можем представить.
«С помощью ИИ можно будет легко создавать видео, где я говорю то, чего никогда в жизни не говорил. А это выглядит правдоподобно. И в масштабах общества это может причинить много вреда», — рассказывает он.
«Безопасен ли Bard для общества?» — в какой-то момент не выдержал журналист.
Пичаи считает, что пока да, поскольку ИИ сегодня запущен «как ограниченный эксперимент». И он все еще воздерживается от дальнейшего тестирования расширенных версий Bard, которые, по его словам, могут рассуждать, планировать и подключаться к интернет-поиску.
Эмерджентность. Это, пожалуй, самая загадочная проблема. Некоторые системы искусственного интеллекта обучают себя навыкам, которых от них не ожидали. Как это происходит, не совсем понятно. Например, одна программа искусственного интеллекта Google сама освоила бенгальский язык, которому ее не учили. Разработчики из Бангладеш как-то задали нейросети вопрос на этом языке — и она его выучила.
Неизвестность. Пичаи признал, что эти аспекты нейросетей — «черный ящик» и он сам не понимает, как это работает. «Мы не до конца понимаем, почему он (ИИ) что-то сказал или почему что-то понял неправильно». А на вопрос журналиста, почему Google открыл доступ к тому, что непонятно как работает, он парировал: «Я также не думаю, что мы полностью понимаем, как работает человеческий разум».
По словам Пичаи, революция в области искусственного интеллекта находится в центре дебатов «между теми, кто надеется таким образом спасти человечество, и теми, кто предсказывает его гибель». «Google находится где-то посередине, внедряя искусственный интеллект поэтапно, чтобы цивилизация могла к нему привыкнуть», — отметил он.
Осознанность. В Google обращают внимание, что сегодня большинство систем ИИ хорошо справляется с одной или двумя задачами. Например, роботы-футболисты не могут составить список покупок или водить машину. Конечная цель — это общий искусственный интеллект, который может самообучаться и иметь широкий спектр навыков.
«Вы знаете, философы еще не определились с определением сознания, но […] я думаю, что есть вероятность, что ИИ когда-нибудь сможет себя осознать. Я определенно не считаю, что это будет сегодня», — говорит Хассабис.
«Я думаю, что в 10-летней перспективе у нас будет какая-то форма очень способного интеллекта, который может делать удивительные вещи. И нам как обществу нужно адаптироваться к этому. […] Как разработать системы искусственного интеллекта, соответствующие человеческим ценностям, включая мораль? Вот почему я думаю, что в разработке этого должны участвовать не только инженеры, но и социологи, специалисты по этике, философы и так далее», — заключает Пичаи.
Внимание!
Комментирование временно доступно только для зарегистрированных пользователей.
Подробнее
Комментарии 7
Редакция оставляет за собой право отказать в публикации вашего комментария.
Правила модерирования.