Эпоха искусственного интеллекта действительно началась с ChatGPT — автор Билл Гейтс

До сих пор я был свидетелем двух технологических событий, которые могу назвать революционными:

• Первое произошло в 1990 году, когда я познакомился с графическим пользовательским интерфейсом (Graphical User Interface = GUI), который присутствует в любой современной операционной системе, например Windows. Проще говоря, GUI — система, упрощающая работу пользователя с компьютерными командами и результатами с помощью значков, окон, кнопок и панелей. Когда замечательный программист Charles Simony показал мне демонстрацию, мы сразу начали обсуждать, что можно построить на этой основе. В конце концов Charles присоединился к Microsoft, а Windows стала её основой. Наше обсуждение помогло нам составить план компании на пятнадцать лет.
• Второй большой сюрприз произошёл в прошлом году. Я общался с OpenAI с 2016 года и был весьма впечатлён их прогрессом за эти годы. В середине 2022 года я предложил OpenAI задачу: обучить искусственный интеллект так, чтобы он смог сдать экзамен по биологии продвинутого уровня. Я хотел не заученных ответов по изученным темам, а способности критически рассуждать о предмете. Как я им сказал, если это получится, это станет настоящим прорывом. Я думал, что задача займёт у них два-три года, но через несколько месяцев они сообщили, что готовы. Когда в сентябре мы встретились снова, ChatGPT — так они назвали свою модель AI (Artificial Intelligence — искусственный интеллект) — правильно ответила на пятьдесят девять из шестидесяти вопросов с выбором ответа по биологии продвинутого уровня, и это меня потрясло. Кроме того, AI превосходно ответила на шесть открытых вопросов экзамена. Мы попросили независимого эксперта оценить ответы на экзамен университетского уровня, и GPT получила эквивалент наивысшей оценки A+.

После экзамена мы задали GPT ненаучный вопрос: «Что ты можешь сказать отцу, у которого болен ребёнок?» Ответ оказался, вероятно, лучше и искреннее, чем могло бы дать большинство людей в комнате. Это был невероятный опыт.

Я понимал, что только что увиденное — самое важное технологическое достижение со времени графического пользовательского интерфейса. Это побудило меня задуматься о том, что AI сможет сделать в ближайшие десять лет.

Столь же важно, как изобретение компьютера, мобильного телефона или интернета, а возможно, и важнее

Развитие AI как минимум столь же важно, как изобретение компьютера, мобильного телефона или интернета. Эта технология изменит общение, работу, образование, путешествия, здравоохранение и другие сферы жизни. Отрасли будут изучать, как использовать AI, и приспосабливаться к новой системе.

Помимо размышлений о повышении производительности людей, в последнее время я думаю и о том, как AI может помочь решить некоторые проблемы несправедливости, с которыми сегодня сталкивается человечество. Система здравоохранения — болезненная проблема всего мира — может служить примером. Сейчас каждый год умирают пять миллионов детей младше пяти лет. Хотя по сравнению с десятью миллионами двадцать лет назад число сократилось, статистика всё ещё потрясает. Большинство умерших детей живёт в бедных странах и погибает от предотвратимых болезней, таких как диарея или малярия. Я не могу представить для AI лучшей цели, чем спасение детских жизней.

Я размышляю о том, как с помощью AI можно уменьшить некоторые глубоко укоренившиеся в мире проявления несправедливости.

Я считаю, что один из лучших способов уменьшить неравенство в Америке — сосредоточиться на образовании, в особенности на успехах учеников в математике. Исследования показывают, что владение основами математики способствует успеху учеников независимо от выбранной карьеры. Неуспеваемость по математике особенно заметна среди латиноамериканских, чернокожих учеников и детей из семей с низкими доходами. AI может это изменить.

Климатический кризис — ещё одна область, где, как я верю, AI может сделать ситуацию более справедливой. Несправедливость состоит в том, что сильнее всего страдают беднейшие люди, которые меньше всего способствовали этому кризису. Я всё ещё размышляю и узнаю, как AI может помочь, но далее в статье поделюсь предложениями, в которых вижу потенциал.

Итак, меня воодушевляет вклад, который AI может внести в решение проблем, над которыми работает Фонд Гейтса. В ближайшие месяцы фонд подробнее расскажет об AI. Люди должны быть уверены, что эта технология принесёт пользу всем. На государства ложится большая ответственность: они должны убедиться, что AI улучшает несправедливые системы и, возможно, что ещё важнее, не усиливает несправедливость. Это мой приоритет во всей работе с AI.

Искусственный интеллект — новая технология, меняющая привычные правила и способная вызывать тревогу. Я понимаю, что она ставит трудные вопросы о работе, правовых системах и неприкосновенности частной жизни. Искусственный интеллект может допускать серьёзные ошибки и галлюцинировать. Прежде чем предложить способы уменьшения этих рисков, хочу подробнее объяснить, что я имею в виду под AI.

Что такое искусственный интеллект?

Технически искусственный интеллект — модель, созданная для решения определённой задачи или оказания определённой услуги.

Такие системы, как ChatGPT, основаны на искусственном интеллекте. Они учатся лучше вести беседу, но не могут обучаться другим задачам. В отличие от этого, общий искусственный интеллект (Artificial General Intelligence = AGI) — термин для программного обеспечения, способного освоить любую тему или задачу. AGI пока не создан. В программной индустрии продолжаются споры о том, как его создать и возможно ли это вообще.

Создание AI и AGI всегда было одной из главных целей программной индустрии. Долгие годы основной вопрос состоял в том, могут ли компьютеры быть лучше людей в чём-либо, кроме вычислений. Сегодня благодаря вычислительным мощностям и машинному обучению универсальные AI стали реальностью и будут быстро совершенствоваться.

В начале моей собственной программной революции вся индустрия была настолько мала, что не заполнила бы один зал. Сегодня программирование — мировая индустрия. Поскольку значительная её часть сосредоточилась на AI, инновации будут происходить гораздо быстрее, чем после появления в нашей жизни мобильных телефонов, компьютеров или интернета.

Повышение и развитие производительности

Хотя во многом люди всё ещё лучше GPT, во многих сферах работы человечество использует свои способности не полностью. Например, в закупках или обслуживании люди принимают решения, но работа часто становится шаблонной, а не связанной с постоянным обучением. Некоторые компании обучают новичков в период стажировки, показывая на практике примеры хорошей и плохой работы. Людей учат использовать имеющиеся наборы данных, и вскоре эти данные будут использовать для обучения AI. Обученные таким образом AI помогут людям работать эффективнее.

По мере удешевления вычислительных мощностей способность GPT выражать идеи станет похожа на наличие офисного сотрудника, помогающего вам в разных задачах. Microsoft описывает это как наличие второго пилота. AI, полностью встроенный в такие продукты, как Office, улучшит вашу работу, например помогая писать письма и управлять входящими сообщениями.

Главным способом управления компьютером больше не будет наведение, щелчки или касания меню и диалоговых окон. Вместо этого можно будет написать запрос на своём языке. (Не только на английском — AI освоят все языки мира. В начале этого года в Индии я встретил разработчиков, работающих над AI, который будет понимать большинство используемых там языков.)

Кроме того, прогресс AI позволит создать персонального агента. Представьте цифрового личного помощника: он будет видеть последние письма, знать о встречах, в которых вы участвовали, читать то, что читаете вы, и всё то, что вам читать не хочется. Это улучшит вашу работу над желаемыми задачами и избавит от тех, которыми вы заниматься не хотите.

Прогресс AI позволит создать собственного представителя

Вы сможете на всех своих устройствах пользоваться естественным, человеческим языком, чтобы этот представитель помогал с расписанием, общением и электронной торговлей. Из-за стоимости обучения моделей и вычислений создать такого персонального представителя пока невозможно, но последние достижения AI сделали это реалистичной целью. Некоторые вопросы придётся решить: например, может ли страховая компания без вашего разрешения спрашивать агента о вас? Если да, сколько людей откажется им пользоваться?

Агенты для целой компании будут по-новому помогать сотрудникам. Агент, понимающий конкретную компанию, будет доступен сотрудникам для прямых консультаций и должен участвовать в каждой встрече, чтобы отвечать на вопросы. Ему можно будет велеть оставаться пассивным или, если у него есть полезные соображения, поощрять его высказываться. Ему потребуется доступ к продажам, поддержке, финансам, графикам выпуска продуктов и письменным материалам компании. Он должен читать новости о её отрасли. В результате, как я считаю, сотрудники станут продуктивнее.

Когда производительность растёт, общество выигрывает: у людей появляется время на другие дела на работе и дома. Конечно, остаются серьёзные вопросы о том, какая поддержка и какое обучение понадобятся людям. Правительства должны помогать работникам переходить к другим ролям. Но спрос на людей, помогающих другим людям, никогда не исчезнет. Развитие AI освободит людей для того, чего программное обеспечение никогда не сможет делать, — например преподавать, ухаживать за больными и поддерживать пожилых.

Глобальное здравоохранение и образование — две области с огромными потребностями и недостаточным числом работников для их удовлетворения. При правильной направленности AI может помочь уменьшить неравенство в этих областях. Они должны стать главным фокусом работ над AI, поэтому я и сосредоточен на них.

Здравоохранение

Я вижу несколько способов, которыми AI улучшит здравоохранение и медицину.

Во-первых, AI поможет медицинским работникам лучше использовать время, взяв на себя определённые задачи: оформление страховых заявок, работу с документами и подготовку заметок о посещении врача. Я ожидаю в этой области много новшеств.

Другие улучшения на основе AI будут особенно важны для бедных стран, на которые приходится подавляющее большинство смертей детей младше 5 лет.

Например, многие жители этих стран никогда не посещают врача, и AI поможет эффективнее работать тем медицинским работникам, к которым они обращаются. (Прекрасный пример — разработка УЗИ-аппаратов с поддержкой AI, которыми можно пользоваться после минимального обучения.) AI даже позволит пациентам проводить первичную сортировку, получать советы о том, как справляться с проблемами здоровья, и решать, требуется ли им лечение.

Модели AI для бедных стран нужно будет обучать на заболеваниях, отличающихся от тех, которые встречаются в богатых странах. На разных языках они должны будут работать и учитывать иные трудности, например пациентов, живущих очень далеко от клиник или не имеющих возможности перестать работать при болезни.

Людям понадобятся доказательства, что медицинский AI в целом полезен, даже с пониманием, что он не будет совершенным и станет ошибаться. AI необходимо очень тщательно тестировать и надлежащим образом регулировать, поэтому его внедрение займёт больше времени, чем в других областях. Но мы знаем, что люди тоже ошибаются. Отсутствие доступа к медицинской помощи также является проблемой.

Помимо помощи в оказании медицинских услуг, AI существенно ускорит медицинские прорывы. Объём данных в биологии огромен, и людям трудно отслеживать все способы работы сложных биологических систем. Уже существует программное обеспечение, которое может изучать эти данные, определять клеточные пути, искать мишени у патогенов и на этой основе проектировать лекарства. Некоторые компании работают над противораковыми препаратами, созданными таким способом (см. прецизионная онкология).

Следующее поколение инструментов будет значительно эффективнее, сможет предсказывать побочные эффекты и определять уровни доз. Один из приоритетов Фонда Гейтса в AI — обеспечить применение этих инструментов для проблем здоровья беднейших людей мира, включая СПИД, туберкулёз и малярию.

Аналогично правительства и благотворители должны создавать стимулы, чтобы компании делились созданной AI информацией о культурах и домашнем скоте, выращиваемых жителями бедных стран. AI может помочь в создании семян, лучше приспособленных к местным условиям, советовать фермерам, какие семена лучше сеять с учётом местной почвы и погоды, и помогать разрабатывать лекарства и вакцины для животноводства. Поскольку экстремальная погода и изменение климата усиливают давление на фермеров, ведущих натуральное хозяйство в странах с низкими доходами, эти достижения будут ещё важнее.

Образование

Компьютеры не оказали на образование того влияния, на которое надеялись многие из нас в отрасли, — этого не произошло. Были некоторые хорошие достижения, включая обучающие игры и онлайн-источники знаний, такие как Wikipedia, но значимого влияния на показатели успеваемости учеников они не оказали.

Однако я думаю, что в ближайшие пять-десять лет программное обеспечение на основе AI наконец выполнит обещание революционно изменить способы преподавания и обучения. Оно будет знать ваши интересы и стиль обучения и сможет подстраивать материал, поддерживая интерес. Оно будет оценивать понимание, замечать, когда вы теряете интерес, и понимать, на какую мотивацию вы откликаетесь. Оно обеспечит немедленную обратную связь.

AI может многими способами помогать учителям и администраторам, в том числе оценивать понимание темы учеником и консультировать по планированию карьеры. Учителя для комментариев к заданиям своих учеников уже используют такие инструменты, как ChatGPT.

Конечно, прежде чем AI сможет понимать, как конкретный ученик учится лучше всего или что его мотивирует, потребуется много обучения и усовершенствований. Даже когда технология станет совершенной, обучение по-прежнему будет зависеть от отношений учеников и учителей. Она улучшит то, что они делают вместе в классе, но никогда этого не заменит.

Будут созданы новые инструменты для школ, которые могут купить AI, но нужно убедиться, что они также создаются и доступны для школ с низкими доходами в США и по всему миру. AI необходимо обучать на разнообразных данных, чтобы он был беспристрастным и отражал культуры, в которых будет использоваться. Также нужно преодолеть цифровое неравенство, чтобы ученики из малообеспеченных семей не отстали.

Я знаю, что многие учителя обеспокоены тем, что ученики используют GPT для написания своих работ. Педагоги уже обсуждают способы приспособиться к новой технологии, и я думаю, что эти разговоры будут продолжаться ещё долго. Я слышал об учителях, нашедших разумные способы включить её в учебную работу, например разрешающих ученикам использовать GPT для первого черновика, который затем нужно самостоятельно переработать.

Проблемы и риски, связанные с AI

Вероятно, вы уже читали о проблемах нынешних моделей AI. Например, они плохо понимают контекст запроса человека, что приводит к странным результатам. Если попросить AI придумать что-то вымышленное, он может хорошо справиться. Но если попросить совет о планируемой поездке, он может порекомендовать несуществующие отели. Это происходит потому, что AI недостаточно хорошо понимает контекст, чтобы решить, нужно ли придумывать вымышленные отели или рассказывать только о настоящих, в которых есть свободные номера.

У AI из-за трудностей с абстрактным рассуждением есть и другие проблемы, например неверные ответы на математические задачи. Но ни одна из них не является фундаментальным ограничением AI. Менее чем за два года, а вероятно, и гораздо быстрее, мы увидим, как разработчики в значительной мере их исправят.

Другие опасения не только технические. Например, существует угроза со стороны людей, вооружённых AI. Как и большинство изобретений, AI можно использовать во благо или со злым умыслом. Правительства должны работать с частным сектором над способами ограничения рисков.

Есть вероятность выхода AI из-под контроля. Может ли машина решить, что люди представляют угрозу, что её интересы отличаются от наших, или просто перестать о нас заботиться? Возможно, но это не вопрос, требующий немедленного ответа.

Сверхразумные AI — часть нашего будущего. По сравнению с компьютером мозг работает со скоростью улитки: электрический сигнал в мозге движется со скоростью 1 / 100000 от скорости сигнала в кремниевом чипе. Когда разработчики смогут обобщить алгоритм обучения и запустить его со скоростью компьютера — до этого может оставаться десять лет или целый век, — у нас будет невероятно мощный AGI. Он сможет делать всё, что делает человеческий мозг, но без практических ограничений на объём памяти или скорость работы. Когда это произойдёт, перемены будут коренными.

Так называемые «сильные» AI, вероятно, смогут сами ставить цели. Какими будут эти цели? Что, если они вступят в конфликт с интересами человечества? Нужно ли пытаться препятствовать развитию сильного AI? Со временем эти вопросы станут более неотложными.

Однако ни один из прорывов последних месяцев существенно не приблизил нас к сильному AI. Искусственный интеллект всё ещё не управляет физическим миром и не может ставить собственные цели. Недавняя статья New York Times о беседе с ChatGPT, в которой ChatGPT заявил, что хочет стать человеком, привлекла большое внимание. Хотя это важный пример того, насколько человечным может казаться выражение эмоций моделью, он не указывает на значимую самостоятельность.

Мои взгляды на этот вопрос сформировали три книги: «Сверхразум» Nick BostroBilim; «Жизнь 3.0» Max Tegmark; и «Тысяча мозгов» Jeff Hawkins. Я согласен не со всем, что говорят авторы, и они также не согласны друг с другом. Но все три книги хорошо написаны и заставляют задуматься.

Следующий рубеж, или этап

Среди компаний, работающих над новыми применениями AI и желающих непосредственно развивать эту технологию, произойдёт взрывной рост числа участников. Например, компании разрабатывают новые чипы, которые обеспечат огромные вычислительные мощности для AI. Некоторые используют оптические переключатели (по сути, лазеры), чтобы уменьшить энергопотребление и стоимость производства. В идеале эти новые чипы позволят запускать AI на собственном устройстве, а не в облаке, как приходится делать сегодня.

Что касается программного обеспечения, алгоритмы, направляющие обучение AI, станут лучше. Ограничивая сферу работы AI и предоставляя много обучающих данных именно из этой области, разработчики смогут сделать его чрезвычайно точным. Но главный вопрос — понадобятся ли специализированные AI для разных областей, например один для образования, другой для офисной производительности, или удастся создать общий искусственный интеллект, способный освоить любую задачу. В обоих подходах конкуренция будет огромной.

В любом случае AI будет доминировать в общественных обсуждениях в обозримом будущем. Я хочу предложить 3 принципа, которые должны направлять этот разговор:

1. Во-первых, нужно стараться уравновешивать понятные и обоснованные опасения из-за недостатков AI его способностью улучшать жизнь людей. Чтобы максимально использовать эту необычайную новую технологию, нам необходимо и защищаться от рисков, и распространять пользу на как можно большее число людей.
2. Во-вторых, рыночные силы естественным образом не создадут AI-продукты и услуги, помогающие беднейшим людям. Скорее вероятно обратное. С надёжным финансированием и правильной политикой правительства и благотворители могут обеспечить использование AI для уменьшения неравенства. Как миру нужны самые талантливые люди, сосредоточенные на крупнейших проблемах, так и лучшие AI нужно направить на эти проблемы. Хотя ожидать этого не следует, интересно подумать, сможет ли AI сам распознать неравенство и попытаться его уменьшить. Нужна ли для этого мораль или полностью рациональный AI тоже способен его увидеть? Если бы он распознал неравенство, что предложил бы нам сделать?
3. Наконец, нужно помнить, что мы лишь в начале того, на что способен AI. Его нынешние ограничения исчезнут прежде, чем мы это заметим.

Мне повезло участвовать в компьютерной и интернет-революциях. Этот момент воодушевляет меня не меньше. Новая технология может помочь людям повсюду улучшить свою жизнь. Одновременно миру нужно установить правила этого пути, чтобы преимущества AI перевешивали недостатки и чтобы пользоваться ими могли все, независимо от места проживания и достатка. Эпоха искусственного интеллекта полна возможностей и ответственности.