• vesti-ua.net
  • »
  • Новости
  • »
  • Технологии
  • »
  • Что будет, когда искусственный интеллект стнет достаточно умным и будет ли он способен убить людей

Что будет, когда искусственный интеллект стнет достаточно умным и будет ли он способен убить людей

Когда ИИ получит суперинтеллект, человечество уже не будет способно предсказать его действия
28-05-2023, 14:03 / Автор: Віталій Прокопенко
/
Читати українською
Что будет, когда искусственный интеллект стнет достаточно умным и будет ли он способен убить людей
5.7т

Разнообразные искусственные интеллекты (от чат-ботов до нейросетей и автопилотов в авто), стремительно увлекающие мир, кажутся для человечества развлечением и чем-то, что улучшит нашу жизнь в недалеком будущем. Но, вероятно, когда ИИ достигнет сингулярности, людям может не поздоровиться.

Об этом говорится в материале издания Popular Mechanics, которое пообщалось с отраслевыми экспертами. Они также рассказали, как не превратить искусственный интеллект в врага.

Эксперты предполагают, что момент сингулярности может наступить уже к 2030 году. После этого искусственный интеллект превзойдет человеческий и вычислить последствия его деятельности будет очень сложно.

Что такое сингулярность

Сингулярность – это момент, когда машинный интеллект сравнится с человеческим или превзойдет его. Эту концепцию в свое время рассматривали Стивен Гокинг, Билл Гейтс и другие ученые. В частности, английский математик Алан Тьюринг еще в 50-х годах разработал тест Тюринга, который имел целью выяснить, способны ли машины мыслить самостоятельно и смогут ли они выйти на такой уровень общения, когда человек не будет способен понять, говорит ли с ИИ или с другим человеком. ChatGPT уже доказал, что ИИ способен поддерживать разговор на уровне человека.

Докторантка Калифорнийского университета в Беркли Ишане Приядаршини объясняет, что главная проблема с ИИ состоит в том, что его интеллект фактически неограничен, в то время как интеллект человека – фиксированный, поскольку мы не можем просто добавить себе больше памяти, чтобы стать умнее.

Когда может быть достигнута сингулярность?

Эксперты считают, что заявления о скором достижении сингулярности, в лучшем случае, спекулятивны. Приядаршини считает, что сингулярность уже существует по кусочкам, но момент, когда ИИ превзойдет человеческий интеллект полностью, наступит еще не скоро. Тем не менее, моменты сингулярности люди уже видели. Как тогда, когда в 1997 году суперкомпьютер IBM Deep Blue впервые победил шахматиста-человека – чемпиона мира по шахматам Гарри Каспарова.

Эксперты предполагают, что говорить о достижении сингулярности можно будет тогда, когда ИИ сможет переводить язык на том же уровне или лучше, чем человек.

Однако Приядаршини считает, что лучшим показателем того, что ИИ стал умнее людей, будет тот момент, когда машины начнут понимать мемы, которые сейчас для них недостижимы.

Что произойдет, когда ИИ достигнет сингулярности?

Проблема в том, что люди слишком "тупые", чтобы предположить, что произойдет, если ИИ получит суперинтеллект. Чтобы сделать прогнозы, нам нужен человек, у которого также будет суперинтеллект. Поэтому человечество может только спекулировать по поводу последствий сингулярности, используя наш нынешний уровень интеллекта.

"Вы должны быть по крайней мере столь же разумны, чтобы быть способными предположить, что сделает система... если мы говорим о системах, которые умнее человека (суперразумные), то для нас невозможно предусмотреть изобретения или решения", – заявил доцент кафедры компьютерной инженерии и информатики в Университете Луисвилля Роман Ямпольский.

Что касается того, может ли ИИ стать врагом для человека, то, как считает Приядаршини, здесь тоже сложно делать прогнозы. Все будет зависеть от того, не будет ли в его коде противоречий.

"Мы хотим самоуправляемые автомобили, мы просто не хотим, чтобы они проезжали на красный свет и сталкивались с пассажирами", – говорит Приядаршини, объясняя, что плохой код может заставить ШИ рассматривать проезд на красный свет и людей как самый эффективный способ вовремя добраться до места назначения.

По ее словам, исследователи ИИ знают, что мы не можем на 100% устранить предвзятость из кода, поэтому создать совершенно беспристрастный ИИ, не способный сделать ничего плохого, будет непростой задачей.

Может ли ИИ навредить людям?

Пока у ИИ нет чувств, поэтому он руководствуется только собственными знаниями. Так что, вероятно, в ближайшее время он не станет неуправляемым и не попытается убежать из-под контроля человека просто потому, что у него нет такой мотивации.

Однако, как объясняет Ямпольский, неуправляемость ИИ может возникнуть в результате того, как он будет создан человеком и какие парадоксы могут образоваться в его коде.

"У нас нет способа выявить, измерить или оценить, переживают ли системы внутренние состояния... Но это и не нужно для того, чтобы они стали очень способными и очень опасными", – пояснил ученый.

Приядаршини также поддерживает коллегу, утверждая, что единственная причина, которая может привести к бунту ИИ – противоречивость кода.

"Он (ШИ. – Ред.) может не иметь никаких мотивов против людей, но машина, которая считает, что человек является первопричиной определенных проблем, может думать именно так", – пояснила ученая.

Однако, если ИИ станет достаточно разумным для самоосознания и получит внутренние чувства, возможно, у него найдется мотив для того, чтобы недолюбливать человечество.

Опять же, плохо поставленная задача может привести к непреднамеренному убийству. В качестве примера Ямпольский приводит ситуацию, когда ИИ попросят создать вакцину для людей против условного COVID.

Система будет знать, что чем больше людей заболеет COVID, тем больше вирус будет мутировать, что усложнит разработку вакцины для всех вариантов.

"Система думает... возможно, я смогу решить эту проблему, уменьшив количество людей, поэтому вирус не сможет мутировать так сильно",– говорит ученый, предполагая, что ИИ, не имеющий понятия нравственности, может выбрать более эффективное решение, даже если оно повредит части людей.

Как мы можем предотвратить катастрофу сингулярности?

Мы никогда не сможем избавить искусственный интеллект от всех его неизвестных. Это непреднамеренные побочные эффекты, которые люди не могут предвидеть, поскольку не обладают суперинтеллектом.

"Мы действительно смотрим на сингулярность, которая приведет к появлению множества машин-изгоев. Если она достигнет точки невозврата, это уже нельзя будет исправить", – предупреждает Приядаршини.


Почему вы можете доверять vesti-ua.net →

Читайте vesti-ua.net в Google News

Коли, на вашу думку, можливе закінчення війни в Україні?
Последние новости
19:15
Нашествие саранчи в Украине: как остановить распространение вредителей
110
18:56
Астрологи назвали 4 знака зодиака, которые разбогатеют до конца лета
191
18:37
В Раде зарегистрировали новый законопроект, который должен вернуть независимость НАБУ и САП
181
18:18
Геологи открыли крупнейшее в мире месторождение железной руды
324
17:59
Мораторий на проверки бизнеса: Свириденко рассказала детали
165
17:40
"Нафтогаз" занял миллиарды у госбанков на газ для отопительного сезона
252
17:21
Эти три знака зодиака становятся только сильнее, когда преодолевают трудности
447
17:02
Жара сохранится, но не везде: прогноз погоды на завтра
281
16:43
Действия Трампа приводят к росту цен на нефть, - Reuters
217
16:24
В Китае первыми в мире протестировали 6G интернет
233
16:05
Трамп изменил свое отношение к Украине, - Financial Times
641
15:46
Чета Макронов подала иск о клевете в суд США
344
15:27
Летнее наступление РФ затормозилось: Forbes назвал причину
330
15:08
В Украине ожидается неустойчивая погода: в каких регионах будут дожди
355
14:49
Украинский паспорт поднялся в мировом рейтинге: сколько стран можно посещать без виз
366
14:30
Доллар и евро дорожают: сколько стоит валюта в обменниках
331
14:11
Продажи новых автомобилей в Европе резко упали
299
13:52
Для этих знаков зодиака сегодня начинается совершенно новый этап в жизни
1.1т
13:33
УЗ объяснила, почему сейчас сложно купить билеты на поезда
463
13:14
Третий раунд переговоров в Стамбуле: Украина и Россия не приблизились к миру, - WSJ
493
12:55
Усик получил 132 миллиона долларов за бой с Дюбуа: сколько налогов он заплатит
624
12:36
Укргидрометцентр озвучил прогноз на последний месяц лета
514
12:17
Воздушную тревогу в Киевской области будут объявлять по-новому
387
11:58
Вспышка кори в Украине: в каких регионах наивысшие показатели заболеваемости
374
11:39
Эксперт уточнил, ожидаются ли отключения электроэнергии до конца лета
375
11:20
Какому знаку зодиака повезет 24 июля: прогноз астрологов
644
11:01
Итоги встречи в Стамбуле: о чем договорились стороны
641
10:42
Украина получит анонсированные Трампом Patriot не раньше весны 2026 года, - Spiegel
430
10:23
Одесса подверглась мощным ударам, разрушен подъезд многоэтажки
384
10:04
Умеров назвал три основных условия Украины на переговорах в Стамбуле
549
09:45
Снимала наличные: в Днепре возле банкомата убили женщину
860
09:26
Гороскоп на 24 июля: прогноз для всех знаков зодиака
723
09:07
В Одессе после атаки РФ возник пожар на рынке "Привоз"
423
08:57
Буданов оценил значение Келлога в команде Трампа
438
08:34
Зеленский заявил, что внесет в Раду законопроект, который должен усилить независимость антикоррупционных органов
1.2т
08:13
Венгрия хочет судить мужчину за службу в ВСУ
446
07:58
До 7 000 грн штрафа: на улицах Украины запретили носить определенную одежду
5.4т
07:36
Бундесвер планирует стать сильнейшей армией Европы: Берлин подготовил закон
409
Больше новостей

Продолжая просматривать vesti-ua.net Вы подтверждаете, что ознакомились с Политикой конфиденциальности и согласны с использованием файлов cookie