Сооснователь журнала Wired Кевин Келли считает, что через полвека искусственный интеллект станет неотъемлемой частью физического мира. Вместо единой сверхмощной системы, которую прогнозирует, в частности, писатель Рамез Наам, возникнет сеть бесчисленного количества интеллектов, взаимодействующих между собой. По мнению Келли, такой роевой ИИ будет работать преимущественно в фоновом режиме, а его управление потребует новых механизмов координации, безопасности и ответственности.
Каким будет будущее с ИИ
«В отличие от современного ИИ, будущий интеллект будет глубоко интегрирован в физический мир — в роботов, транспортные средства, здания и устройства. Но эта интеграция будет настолько масштабной, глубокой и всеобъемлющей, что ИИ превратится в привычный фон реальности», — заявил Келли.
Келли сравнивает эту систему с суперорганизмом или коралловым рифом, состоящим из тысяч разновидностей интеллектов. Одни из них будут выполнять простые задачи, другие специализироваться на математике, биологии или моделировании, а остальные будут обеспечивать повседневную работу компаний и других организаций.
«Главная особенность любого суперорганизма заключается в том, что его мощность превосходит совокупную мощность его отдельных составляющих», — объяснил Келли.
По мнению автора, системы будут обмениваться данными, координировать работу, проверять результаты друг друга, обновляться и поддерживать общую инфраструктуру. В результате возникнет экосистема взаимозависимых интеллектов, которые будут развиваться вместе со средой, к которой относятся.
Будущие риски
В то же время поддерживать стабильность такой сети будет сложно. Келли отмечает, что чрезмерное количество связей между ее элементами может сделать систему негибкой, тогда как недостаточная координация приведет к хаосу. Внезапный коллапс роевого интеллекта он называет одной из главных угроз его использования.
Для взаимодействия разнородных систем, по прогнозу Келли, сформируются специальные протоколы. Они будут выходить за рамки обычных программных интерфейсов и определять, как агенты будут передавать задачи, обмениваться памятью, оценивать надежность партнеров и формировать репутацию. Большинство этих процессов будет происходить незаметно для людей.
Еще одной проблемой станет ответственность за ошибки. Поскольку результаты работы роя будут возникать в результате взаимодействия многих систем, может быть сложно определить конкретного автора, владельца или оператора, ответственного за причиненный ущерб. Хотя отдельные организации будут контролировать важные узлы инфраструктуры и критические протоколы, ни одна из них не обязательно будет иметь контроль над всей сетью.
Келли предполагает, что это будет способствовать появлению новых моделей децентрализованного страхования и правового регулирования. Для проверки триллионов агентов, заявляющих о своей компетентности и надежности, понадобится отдельная «технологическая система доверия», способная обеспечивать аутентификацию, оценку и классификацию систем. Значительная часть расходов на взаимодействие между агентами может приходиться именно на поддержку таких механизмов.
Чтобы определять причины проблем, понадобятся новые методы оценки влияния отдельных компонентов на работу всей сети. В частности, Келли предлагает использовать моделирование альтернативных сценариев, которое поможет выяснить, что произошло бы в отсутствие определенного компонента. Сейчас, по его словам, практических способов устанавливать ответственность за ущерб, причиненный взаимодействием нескольких систем ИИ, недостаточно.
В такой среде также быстрее будут распространяться мошеннические агенты, спам, низкокачественный контент и вредоносные программы. Келли ожидает, что для противодействия им сформируют своеобразную иммунную систему из агентов, которые будут выявлять опасное поведение, изолировать его источники и ограничивать возможный ущерб.
«Создание такой иммунной системы откроет экономические возможности для многих», — добавил Келли.
Кроме того, взаимодействие многочисленных систем может порождать новые модели поведения и способы решения задач, которых нет ни у одного отдельного компонента. Такие «эмерджентные явления» — свойства, возникающие благодаря взаимодействию частей системы, — могут быть одновременно увлекательными и тревожными. Из-за масштаба и отличия от человеческого мышления значительная часть поведения роевого ИИ будет казаться людям чужой.
Разные уровни интеллекта
Келли также прогнозирует, что роевые интеллекты будут существовать на разных уровнях — от корпоративного до планетарного. По мере насыщения компаний ИИ их структуры всё больше будут напоминать взаимосвязанные интеллектуальные системы, способные самостоятельно выполнять значительную часть организационной работы.
По его мнению, управлять такой средой будет целесообразнее по принципу садоводства, а не традиционного инженерного проектирования. Вместо попыток контролировать каждый внутренний механизм одной системой придется создавать правила, ограничения, изолированные среды и условия, способствующие желаемому поведения ИИ. Такой подход будет предусматривать постоянное наблюдение и вмешательство, но не будет гарантировать полного контроля.
ИИ через 50 лет
«Через 50 лет в этом мире роевого искусственного интеллекта мы не будем говорить об ИИ. Мы его почти не будем замечать. Он будет везде, встроен во все вокруг», — подчеркнул Келли.
В будущей повседневной жизни люди, по прогнозу Келли, будут иметь одного или двух персональных агентов, которым будут доверять и с которыми будут взаимодействовать непосредственно. Он описывает их как «экзо-Я» — цифровых двойников или партнеров, которые будут помогать пользователям в различных делах.
В то же время большинство других систем ИИ будет оставаться вне внимания людей, работая в автомобилях, кухнях, офисах, самолетах, инструментах и зданиях. Люди будут замечать их преимущественно тогда, когда произойдет сбой или прекратится работа определенной функции. Основной задачей следующего поколения изобретателей, считает Келли, станет налаживание работы этой глобальной сети интеллектов.
