ИИ может привести к гибели человечества: Илон Маск признал угрозу

Несмотря на риск, миллиардер призвал все равно развивать такие технологии
2-04-2024, 13:37 / Автор: Ілько Северин
/
Читати українською
ИИ может привести к гибели человечества: Илон Маск признал угрозу
5.2т

В рамках cеминара "Большие дебаты об искусственном интеллекте" на мероприятии Abundance Summit, известный миллиардер Илон Маск заявил, что искусственный интеллект (ИИ) может уничтожить человечество. Однако, несмотря даже на такой риск, миллиардер призвал все равно развивать такие технологии, передает Вusiness insider.

По мнению Маск сказал, ИИ может привести к гибели человечества. В оценках рисков он согласился с Джеффри Хинтоном — ученым и экс-руководителем отдела исследований ИИ в Google, но считает, что вероятный успех перевешивает последствия негативного сценария. Интересно, что Илон Маск не упомянул, как именно рассчитывались риски.

"Я думаю, есть некоторый шанс, что это положит конец человечеству. Я, наверное, соглашусь с Джеффом Хинтоном, что это около 10% или 20% или что-то вроде того", — сказал Илон.

Роман Ямпольский, исследователь безопасности ИИ и директор лаборатории кибербезопасности в Университете Луисвилля, рассказал Business Insider, что Маск прав, говоря, что ИИ может представлять экзистенциальную угрозу для человечества, но Маск слишком консервативен, согласно оценке Романа.

"По моему мнению, показатель p(doom) намного выше", — сказал Ямпольский.

P(doom) — это вероятность очень плохих результатов (например, вымирания человечества) в результате применения ИИ, — ред. Под p(doom) также подразумевают ситуацию, в которой ИИ возьмет контроль над человечеством или вызовет событие, которое положит конец человечеству, например, создаст новое биологическое оружие или вызовет коллапс в результате масштабной кибератаки, или ядерной войны.

Газета The New York Times назвала (p)doom новой ужасной статистикой, охватившей Кремниевую долину, при этом различные руководители технологических компаний, по словам издания, считают, что вероятность апокалипсиса, вызванного ИИ, составляет от 5% до 50%. Ямпольский оценивает риск в 99,999999%, так как будет невозможно контролировать продвинутый ИИ. По его мнению, лучше такую технологию и не создавать вообще.

"Не понимаю, почему Маск считает, что развивать эту технологию — хорошая идея", — прокомментировал Ямпольский. — "Если он обеспокоен тем, что конкуренты доберутся до нее первыми, это не имеет значения, поскольку неконтролируемый сверхинтеллект одинаково плох, независимо от того, кто его создал".

В ноябре прошлого года Маск сказал, что вероятность того, что технология в конечном итоге испортится, не равна нулю, однако он был более оптимистичен в своих оценках, чем сегодня. Хотя он и был сторонником регулирования ИИ, в прошлом году Илон основал компанию под названием xAI, целью которой является дальнейшее расширение возможностей этой технологии. xAI является конкурентом OpenAI.

На саммите Илон Маск заявил, что к 2030 году цифровой интеллект превысит весь человеческий интеллект вместе взятый, утверждая, что потенциальные положительные стороны перевешивают отрицательные, Маск признал риск для мира, если развитие ИИ продолжится по нынешней траектории в некоторых областях.

"Одна из вещей, которые, по моему мнению, невероятно важны для безопасности ИИ, — это наличие максимально любопытного и ищущего истины ИИ", — подчеркнул бизнесмен.

По его мнению, лучший способ достичь безопасности ИИ — развивать ИИ таким образом, чтобы он был правдивым.

"Не заставляйте его лгать, даже если правда неприятна", — сказал Маск.

Исследователи обнаружили, что, как только ИИ научится лгать людям, обманчивое поведение невозможно будет изменить с помощью существующих мер безопасности. Об этом, в частности, писало медиа The Independent. В материале говорилось, что если ИИ-модель будет демонстрировать обманчивое поведение, то нынешние методы обучения технике безопасности не гарантируют безопасность, но даже могут создать ложное впечатление о безопасности. Ученые также уверены, что ИИ может научиться обманывать, как говорится, просто так.

Джеффри Хинтон считает, что если нейросеть станет намного умнее людей, она сможет манипулировать ими, потому что она научится этому у людей. Об этом он заявил в комментарии CNN.


Почему вы можете доверять vesti-ua.net →

Читайте vesti-ua.net в Google News

Коли, на вашу думку, можливе закінчення війни в Україні?
Последние новости
19:16
Главным источником получения новостей у украинцев остается Telegram - социологи
82
18:57
Комендантский час на Пасху в Киеве: в КГВА уточнили, будут ли изменения
163
18:38
Любовный гороскоп для всех знаков зодиака: что приготовили звезды на апрель
227
18:19
Украинские военные получили на вооружение боевой модуль с искусственным интеллектом
246
18:00
Россия ведет подготовку к мощным ударам по Украине, - авиационный эксперт
361
17:41
День освобождения: Трамп сегодня намерен объявить скандальное решение
790
17:22
Убийство бывшего заместителя мэра Каменского: стали известны мотивы преступления
284
17:03
Названа причина гибели 4 военных США в Литве
2.2т
16:44
В США внесли на рассмотрение законопроект, который обяжет сотрудников DOGE проходить тестирование на наркотики
290
16:25
Гороскоп таро на неделю: чего ожидать каждому знаку зодиака
407
16:06
Израиль расширяет военную операцию в секторе Газа
233
15:47
Эксперт пояснил, как Путин может воспользоваться внутренней нестабильностью в НАТО
407
15:28
Цены на табачную продукцию продолжат расти - ГНС
305
15:09
Администрация Трампа временно сняла санкции с приближенного к Путину чиновника
368
14:50
Уолтц с командой пользовались незащищенной почтой для правительственных дел, - WP
272
14:31
Гороскоп на 2 апреля по картам таро: кому сегодня не стоит бояться перемен
455
14:12
Новые пошлины Трампа в корне изменят глобальную торговую систему, - Bloomberg
359
13:53
Миротворческий контингент в Украине: Зеленский назвал дату переговоров
479
13:34
Протестовал против повестки дня администрации Трампа: сенатор-демократ побил рекорд самой длинной речи
422
13:15
Доллар продолжает снижаться: какой сегодня курс в обменниках
340
12:56
Пекин объявил о масштабных военных учениях вокруг Тайваня
341
12:37
Похолодание только усилится: когда на Украину распространится холодная воздушная масса
340
12:18
Курс валют: сколько будут стоить 100 долларов до конца апреля
352
11:59
Украинцам следует ожидать повышения стоимости электроэнергии и природного газа, - эксперт
460
11:40
Украинцы резко сократили покупку долларов в банках
364
11:21
Какому знаку зодиака повезет 2 апреля: прогноз астрологов
479
11:02
Министр иностранных дел Литвы рассказал о рисках российского вторжения в Балтию
318
10:43
Удар по Путину: чем опасны для Кремля новые санкции Трампа
412
10:24
Погоду будет определять поле пониженного атмосферного давления: прогноз синоптиков на сегодня
271
10:05
В США начались массовые увольнения работников учреждений здравоохранения, - Reuters
395
09:46
НБУ отменил лимит в 150 тысяч гривень на переводы между картами
292
09:27
Гороскоп на 2 апреля: прогноз для всех знаков зодиака
584
09:08
Трамп уверен, что Путин намеренно затягивает переговоры о перемирии в Украине, - Fox News
411
08:57
Гороскоп любви на апрель 2025 года
554
08:34
В Кремле заявили, что "не могут принять" мирные планы Трампа
848
08:13
Германия официально начала разворачивать свои войска в Литве
404
07:58
ВСУ стабилизировали фронт на одном из ключевых направлений: подробности
405
07:36
Как СССР потерял новейшую подводную лодку с ядерными торпедами
771
Больше новостей

Продолжая просматривать Вести-UA.net Вы подтверждаете, что ознакомились с Политикой конфиденциальности и согласны с использованием файлов cookie