• vesti-ua.net
  • »
  • Новости
  • »
  • Технологии
  • »
  • Что будет, когда искусственный интеллект стнет достаточно умным и будет ли он способен убить людей

Что будет, когда искусственный интеллект стнет достаточно умным и будет ли он способен убить людей

Когда ИИ получит суперинтеллект, человечество уже не будет способно предсказать его действия
28-05-2023, 14:03 / Автор: Віталій Прокопенко
/
Читати українською
Что будет, когда искусственный интеллект стнет достаточно умным и будет ли он способен убить людей
5.7т

Разнообразные искусственные интеллекты (от чат-ботов до нейросетей и автопилотов в авто), стремительно увлекающие мир, кажутся для человечества развлечением и чем-то, что улучшит нашу жизнь в недалеком будущем. Но, вероятно, когда ИИ достигнет сингулярности, людям может не поздоровиться.

Об этом говорится в материале издания Popular Mechanics, которое пообщалось с отраслевыми экспертами. Они также рассказали, как не превратить искусственный интеллект в врага.

Эксперты предполагают, что момент сингулярности может наступить уже к 2030 году. После этого искусственный интеллект превзойдет человеческий и вычислить последствия его деятельности будет очень сложно.

Что такое сингулярность

Сингулярность – это момент, когда машинный интеллект сравнится с человеческим или превзойдет его. Эту концепцию в свое время рассматривали Стивен Гокинг, Билл Гейтс и другие ученые. В частности, английский математик Алан Тьюринг еще в 50-х годах разработал тест Тюринга, который имел целью выяснить, способны ли машины мыслить самостоятельно и смогут ли они выйти на такой уровень общения, когда человек не будет способен понять, говорит ли с ИИ или с другим человеком. ChatGPT уже доказал, что ИИ способен поддерживать разговор на уровне человека.

Докторантка Калифорнийского университета в Беркли Ишане Приядаршини объясняет, что главная проблема с ИИ состоит в том, что его интеллект фактически неограничен, в то время как интеллект человека – фиксированный, поскольку мы не можем просто добавить себе больше памяти, чтобы стать умнее.

Когда может быть достигнута сингулярность?

Эксперты считают, что заявления о скором достижении сингулярности, в лучшем случае, спекулятивны. Приядаршини считает, что сингулярность уже существует по кусочкам, но момент, когда ИИ превзойдет человеческий интеллект полностью, наступит еще не скоро. Тем не менее, моменты сингулярности люди уже видели. Как тогда, когда в 1997 году суперкомпьютер IBM Deep Blue впервые победил шахматиста-человека – чемпиона мира по шахматам Гарри Каспарова.

Эксперты предполагают, что говорить о достижении сингулярности можно будет тогда, когда ИИ сможет переводить язык на том же уровне или лучше, чем человек.

Однако Приядаршини считает, что лучшим показателем того, что ИИ стал умнее людей, будет тот момент, когда машины начнут понимать мемы, которые сейчас для них недостижимы.

Что произойдет, когда ИИ достигнет сингулярности?

Проблема в том, что люди слишком "тупые", чтобы предположить, что произойдет, если ИИ получит суперинтеллект. Чтобы сделать прогнозы, нам нужен человек, у которого также будет суперинтеллект. Поэтому человечество может только спекулировать по поводу последствий сингулярности, используя наш нынешний уровень интеллекта.

"Вы должны быть по крайней мере столь же разумны, чтобы быть способными предположить, что сделает система... если мы говорим о системах, которые умнее человека (суперразумные), то для нас невозможно предусмотреть изобретения или решения", – заявил доцент кафедры компьютерной инженерии и информатики в Университете Луисвилля Роман Ямпольский.

Что касается того, может ли ИИ стать врагом для человека, то, как считает Приядаршини, здесь тоже сложно делать прогнозы. Все будет зависеть от того, не будет ли в его коде противоречий.

"Мы хотим самоуправляемые автомобили, мы просто не хотим, чтобы они проезжали на красный свет и сталкивались с пассажирами", – говорит Приядаршини, объясняя, что плохой код может заставить ШИ рассматривать проезд на красный свет и людей как самый эффективный способ вовремя добраться до места назначения.

По ее словам, исследователи ИИ знают, что мы не можем на 100% устранить предвзятость из кода, поэтому создать совершенно беспристрастный ИИ, не способный сделать ничего плохого, будет непростой задачей.

Может ли ИИ навредить людям?

Пока у ИИ нет чувств, поэтому он руководствуется только собственными знаниями. Так что, вероятно, в ближайшее время он не станет неуправляемым и не попытается убежать из-под контроля человека просто потому, что у него нет такой мотивации.

Однако, как объясняет Ямпольский, неуправляемость ИИ может возникнуть в результате того, как он будет создан человеком и какие парадоксы могут образоваться в его коде.

"У нас нет способа выявить, измерить или оценить, переживают ли системы внутренние состояния... Но это и не нужно для того, чтобы они стали очень способными и очень опасными", – пояснил ученый.

Приядаршини также поддерживает коллегу, утверждая, что единственная причина, которая может привести к бунту ИИ – противоречивость кода.

"Он (ШИ. – Ред.) может не иметь никаких мотивов против людей, но машина, которая считает, что человек является первопричиной определенных проблем, может думать именно так", – пояснила ученая.

Однако, если ИИ станет достаточно разумным для самоосознания и получит внутренние чувства, возможно, у него найдется мотив для того, чтобы недолюбливать человечество.

Опять же, плохо поставленная задача может привести к непреднамеренному убийству. В качестве примера Ямпольский приводит ситуацию, когда ИИ попросят создать вакцину для людей против условного COVID.

Система будет знать, что чем больше людей заболеет COVID, тем больше вирус будет мутировать, что усложнит разработку вакцины для всех вариантов.

"Система думает... возможно, я смогу решить эту проблему, уменьшив количество людей, поэтому вирус не сможет мутировать так сильно",– говорит ученый, предполагая, что ИИ, не имеющий понятия нравственности, может выбрать более эффективное решение, даже если оно повредит части людей.

Как мы можем предотвратить катастрофу сингулярности?

Мы никогда не сможем избавить искусственный интеллект от всех его неизвестных. Это непреднамеренные побочные эффекты, которые люди не могут предвидеть, поскольку не обладают суперинтеллектом.

"Мы действительно смотрим на сингулярность, которая приведет к появлению множества машин-изгоев. Если она достигнет точки невозврата, это уже нельзя будет исправить", – предупреждает Приядаршини.


Почему вы можете доверять vesti-ua.net →

Читайте vesti-ua.net в Google News

Коли, на вашу думку, можливе закінчення війни в Україні?
Последние новости
19:15
Раскаленный воздух накрыл часть Украины: где именно фиксируется аномальная жара
103
18:56
Август принесет романтическую составляющую нескольким знакам зодиака: кто в списке
253
18:37
Безуглая заявила, что у нее синдром Аспергера: психиатр рассказал о симптомах расстройства
346
18:18
Госдолг Украины вырос за месяц еще на почти 4 млрд долларов
209
17:59
Трамп "съел на завтрак" Урсулу фон дер Ляйен: Орбан прокомментировал новое торговое соглашении между США и ЕС
532
17:40
Ретроградный Меркурий: для каких знаков зодиака заканчивается "черная полоса"
489
17:21
Провал переговоров: прекращение войны Израиля с ХАМАС откладывается
248
17:02
В России коллапс в аэропортах: "Аэрофлот" атакован хакерами
366
16:43
Украине для финансирования оборонных и бюджетных нужд нужно 100 млрд долларов, - эксперт
277
16:24
Удар по Кропивницкому: повреждена пожарно-спасательная техника ГСЧС
279
16:05
Плохие погодные условия и нашествие саранчи: грозит ли Украине голод
347
15:46
Цены на фрукты и овощи: какая сейчас стоимость продуктов
310
15:27
Стооимость доллара и евро: какой курс в обменниках в начале недели
316
15:08
Гороскоп таро на неделю с 28 июля по 2 августа: чего ожидать каждому знаку зодиака
860
14:49
В Литву недалеко от Вильнюса залетел беспилотник со стороны Беларуси
374
14:30
ФСБ усилились на фоне войны и начали репрессии против российских элит, - NYT
539
14:11
Жара и грозы: прогноз погоды на неделю
304
13:52
Нашествие саранчи в Украине: откуда взялись насекомые
1.4т
13:33
Финансовый гороскоп для всех знаков зодиака на неделю с 28 июля по 3 августа
732
13:14
В Киеве на Майдане электромобиль влетел в подземный переход
343
12:55
Употребление этих продуктов может вызвать ряд психических заболеваний
474
12:36
Разработчик ИИ предупредил о новых схемах банковского мошенничества
416
12:17
Евро подорожал к доллару после заключения торговой сделки между США и ЕС
452
11:58
На Земле появились ранее неизвестные времена года - ученые
1.6т
11:39
Какому знаку зодиака повезет 28 июля: прогноз для всех знаков зодиака
716
11:20
США могут вывести треть своих войск из Европы, - Politico
404
11:01
Цены на хлеб: что ждет украинцев осенью
370
10:42
В августе часть украинцев не получит пенсий: кому приостановят выплаты
2.2т
10:23
Ситуация вокруг НАБУ и САП: скажется ли скандал на дальнейших отношениях Украины с США и ЕС
497
10:04
Погода ухудшится: большинство областей сегодня накроют дожди
413
09:45
15% пошлины: США и Европейский союз заключили торговое соглашение
451
09:26
Гороскоп на 28 июля: прогноз для всех знаков зодиака
735
09:07
Полиция показала последствия удара "Шахедов" по Киеву
457
17:58
Астероид может врезаться в Луну: ученые просчитывают последствия для Земли
830
17:36
Евросоюз сокращает свою помощь Украине: в NYT назвали причину
17:14
Гороскоп на неделю с 28 июля по 2 августа: Львам - решение, Девам - "запара"
2.8т
16:57
Саранча атакует Украину: почему это произошло именно сейчас
784
16:43
В МОК рассказали о возможном допуске россиян на зимнюю Олимпиаду-2026
585
Больше новостей

Продолжая просматривать vesti-ua.net Вы подтверждаете, что ознакомились с Политикой конфиденциальности и согласны с использованием файлов cookie