• vesti-ua.net
  • »
  • Новости
  • »
  • Технологии
  • »
  • Что будет, когда искусственный интеллект стнет достаточно умным и будет ли он способен убить людей

Что будет, когда искусственный интеллект стнет достаточно умным и будет ли он способен убить людей

Когда ИИ получит суперинтеллект, человечество уже не будет способно предсказать его действия
28-05-2023, 14:03 / Автор: Віталій Прокопенко
/
Читати українською
Что будет, когда искусственный интеллект стнет достаточно умным и будет ли он способен убить людей
5.7т

Разнообразные искусственные интеллекты (от чат-ботов до нейросетей и автопилотов в авто), стремительно увлекающие мир, кажутся для человечества развлечением и чем-то, что улучшит нашу жизнь в недалеком будущем. Но, вероятно, когда ИИ достигнет сингулярности, людям может не поздоровиться.

Об этом говорится в материале издания Popular Mechanics, которое пообщалось с отраслевыми экспертами. Они также рассказали, как не превратить искусственный интеллект в врага.

Эксперты предполагают, что момент сингулярности может наступить уже к 2030 году. После этого искусственный интеллект превзойдет человеческий и вычислить последствия его деятельности будет очень сложно.

Что такое сингулярность

Сингулярность – это момент, когда машинный интеллект сравнится с человеческим или превзойдет его. Эту концепцию в свое время рассматривали Стивен Гокинг, Билл Гейтс и другие ученые. В частности, английский математик Алан Тьюринг еще в 50-х годах разработал тест Тюринга, который имел целью выяснить, способны ли машины мыслить самостоятельно и смогут ли они выйти на такой уровень общения, когда человек не будет способен понять, говорит ли с ИИ или с другим человеком. ChatGPT уже доказал, что ИИ способен поддерживать разговор на уровне человека.

Докторантка Калифорнийского университета в Беркли Ишане Приядаршини объясняет, что главная проблема с ИИ состоит в том, что его интеллект фактически неограничен, в то время как интеллект человека – фиксированный, поскольку мы не можем просто добавить себе больше памяти, чтобы стать умнее.

Когда может быть достигнута сингулярность?

Эксперты считают, что заявления о скором достижении сингулярности, в лучшем случае, спекулятивны. Приядаршини считает, что сингулярность уже существует по кусочкам, но момент, когда ИИ превзойдет человеческий интеллект полностью, наступит еще не скоро. Тем не менее, моменты сингулярности люди уже видели. Как тогда, когда в 1997 году суперкомпьютер IBM Deep Blue впервые победил шахматиста-человека – чемпиона мира по шахматам Гарри Каспарова.

Эксперты предполагают, что говорить о достижении сингулярности можно будет тогда, когда ИИ сможет переводить язык на том же уровне или лучше, чем человек.

Однако Приядаршини считает, что лучшим показателем того, что ИИ стал умнее людей, будет тот момент, когда машины начнут понимать мемы, которые сейчас для них недостижимы.

Что произойдет, когда ИИ достигнет сингулярности?

Проблема в том, что люди слишком "тупые", чтобы предположить, что произойдет, если ИИ получит суперинтеллект. Чтобы сделать прогнозы, нам нужен человек, у которого также будет суперинтеллект. Поэтому человечество может только спекулировать по поводу последствий сингулярности, используя наш нынешний уровень интеллекта.

"Вы должны быть по крайней мере столь же разумны, чтобы быть способными предположить, что сделает система... если мы говорим о системах, которые умнее человека (суперразумные), то для нас невозможно предусмотреть изобретения или решения", – заявил доцент кафедры компьютерной инженерии и информатики в Университете Луисвилля Роман Ямпольский.

Что касается того, может ли ИИ стать врагом для человека, то, как считает Приядаршини, здесь тоже сложно делать прогнозы. Все будет зависеть от того, не будет ли в его коде противоречий.

"Мы хотим самоуправляемые автомобили, мы просто не хотим, чтобы они проезжали на красный свет и сталкивались с пассажирами", – говорит Приядаршини, объясняя, что плохой код может заставить ШИ рассматривать проезд на красный свет и людей как самый эффективный способ вовремя добраться до места назначения.

По ее словам, исследователи ИИ знают, что мы не можем на 100% устранить предвзятость из кода, поэтому создать совершенно беспристрастный ИИ, не способный сделать ничего плохого, будет непростой задачей.

Может ли ИИ навредить людям?

Пока у ИИ нет чувств, поэтому он руководствуется только собственными знаниями. Так что, вероятно, в ближайшее время он не станет неуправляемым и не попытается убежать из-под контроля человека просто потому, что у него нет такой мотивации.

Однако, как объясняет Ямпольский, неуправляемость ИИ может возникнуть в результате того, как он будет создан человеком и какие парадоксы могут образоваться в его коде.

"У нас нет способа выявить, измерить или оценить, переживают ли системы внутренние состояния... Но это и не нужно для того, чтобы они стали очень способными и очень опасными", – пояснил ученый.

Приядаршини также поддерживает коллегу, утверждая, что единственная причина, которая может привести к бунту ИИ – противоречивость кода.

"Он (ШИ. – Ред.) может не иметь никаких мотивов против людей, но машина, которая считает, что человек является первопричиной определенных проблем, может думать именно так", – пояснила ученая.

Однако, если ИИ станет достаточно разумным для самоосознания и получит внутренние чувства, возможно, у него найдется мотив для того, чтобы недолюбливать человечество.

Опять же, плохо поставленная задача может привести к непреднамеренному убийству. В качестве примера Ямпольский приводит ситуацию, когда ИИ попросят создать вакцину для людей против условного COVID.

Система будет знать, что чем больше людей заболеет COVID, тем больше вирус будет мутировать, что усложнит разработку вакцины для всех вариантов.

"Система думает... возможно, я смогу решить эту проблему, уменьшив количество людей, поэтому вирус не сможет мутировать так сильно",– говорит ученый, предполагая, что ИИ, не имеющий понятия нравственности, может выбрать более эффективное решение, даже если оно повредит части людей.

Как мы можем предотвратить катастрофу сингулярности?

Мы никогда не сможем избавить искусственный интеллект от всех его неизвестных. Это непреднамеренные побочные эффекты, которые люди не могут предвидеть, поскольку не обладают суперинтеллектом.

"Мы действительно смотрим на сингулярность, которая приведет к появлению множества машин-изгоев. Если она достигнет точки невозврата, это уже нельзя будет исправить", – предупреждает Приядаршини.


Почему вы можете доверять vesti-ua.net →

Читайте vesti-ua.net в Google News

Коли, на вашу думку, можливе закінчення війни в Україні?
Последние новости
11:11
В шести областях Украины засуха, есть потери урожая — министр экономики
52
10:56
Украинка Бакастова победила титулованного майора армии РФ на ЧМ по фехтованию
123
10:41
Литва поможет купить Patriot для Украины: министр огласила сумму взноса
136
10:18
Ликвидирован командир полка РФ, который штурмовал Харьковскую область
179
10:01
В США на фондовом рынке надувается "экономический пузырь": FT указал на признаки
300
09:56
В РФ после удара БПЛА горит нефтебаза – соцсети
260
09:33
Таиланд и Камбоджа согласились быстро достичь перемирия, - Трамп
213
09:09
В Украину удалось вернуть подростка
272
08:58
Синоптик предупредила о приближении особо жарких дней в Киеве: когда ждать
254
08:36
Деньги притягиваются к ним сами: ТОП-5 знаков с финансовым мышлением бизнесмена
640
08:14
Польша готовится к худшему: Туск предупредил об угрозе со стороны РФ
427
17:58
Орбан: Украине стоит быть "буферным" государством и сотрудничать с ЕС вместо вступления
17:36
Китаю не нужна победа России в войне: The Hill про иную цель Пекина
17:14
Сорвали планы РФ и набрали в плен россиян: Зеленский сообщил об успехе ВСУ
2.7т
16:57
Группа мужчин напала на автобус ТЦК: мобилизованные бежали
2.4т
16:43
Рейтинг демократов в США упал до самого низкого уровня за последние 35 лет — опрос WSJ
16:19
Таиланд отразил вторжение Камбоджи: десятки погибших
1.1т
16:03
"Россия ничего не сможет сделать": что Азербайджан готовит для Кремля
4.8т
15:56
США, ЕС и Британия обсудят завершение войны в Украине - The Guardian
863
15:31
В США напомнили россиянам о 50-дневном дедлайне
672
15:09
В Сумской области задержан подозреваемый в убийстве 17-летней девушки
792
14:58
На взятке поймали начальника сборного пункта Киевского ТЦК
915
14:41
NASA сократит почти 4 тысячи работников: Bloomberg о последствиях правительственной программы
476
14:18
Возьмите себя в руки: Трамп требует от Европы ограничить миграцию
885
14:01
США заявили о ликвидации главаря ИГИЛ — детали
641
13:56
К Земле приближается новая магнитная буря: когда будет удар
1.2т
13:33
В России без объяснений отменили главный военно-морской парад
865
13:13
"Ползают в костюмах собак": в ВСУ рассказали о штурмах РФ на Краматорском направлении
2.4т
12:57
Армия РФ готовит наступление на границе Днепропетровской и Запорожской областей: подробности
975
12:43
Атакован завод с важной техникой для армии РФ: дроны ударили по Ставрополю
615
12:19
В ВСУ отказываются от боевых роботов: Сергей "Флеш" предупредил про еще одну отрасль, в которой будем отставать от противника
12:03
Каждый седьмой житель Словакии поддерживает присоединение к России
1.9т
11:58
У 6 Зодиаков сегодня начнется новая глава финансового достатка
2.2т
11:29
Третий суд заблокировал указ Трампа о гражданстве по рождению
827
11:11
Трамп и фон дер Ляйен готовят встречу
510
10:57
Чего ожидать от доллара и евро в конце июля: прогноз банкира
793
10:41
Количество гражданских жертв в Украине достигло трехлетнего максимума, - представитель ООН
554
10:18
Россияне три часа били по Харькову КАБами, баллистикой и "Шахедами"
649
Больше новостей

Продолжая просматривать vesti-ua.net Вы подтверждаете, что ознакомились с Политикой конфиденциальности и согласны с использованием файлов cookie