ИИ может привести к гибели человечества: Илон Маск признал угрозу

Несмотря на риск, миллиардер призвал все равно развивать такие технологии
2-04-2024, 13:37 / Автор: Ілько Северин
/
Читати українською
ИИ может привести к гибели человечества: Илон Маск признал угрозу
5.1т

В рамках cеминара "Большие дебаты об искусственном интеллекте" на мероприятии Abundance Summit, известный миллиардер Илон Маск заявил, что искусственный интеллект (ИИ) может уничтожить человечество. Однако, несмотря даже на такой риск, миллиардер призвал все равно развивать такие технологии, передает Вusiness insider.

По мнению Маск сказал, ИИ может привести к гибели человечества. В оценках рисков он согласился с Джеффри Хинтоном — ученым и экс-руководителем отдела исследований ИИ в Google, но считает, что вероятный успех перевешивает последствия негативного сценария. Интересно, что Илон Маск не упомянул, как именно рассчитывались риски.

"Я думаю, есть некоторый шанс, что это положит конец человечеству. Я, наверное, соглашусь с Джеффом Хинтоном, что это около 10% или 20% или что-то вроде того", — сказал Илон.

Роман Ямпольский, исследователь безопасности ИИ и директор лаборатории кибербезопасности в Университете Луисвилля, рассказал Business Insider, что Маск прав, говоря, что ИИ может представлять экзистенциальную угрозу для человечества, но Маск слишком консервативен, согласно оценке Романа.

"По моему мнению, показатель p(doom) намного выше", — сказал Ямпольский.

P(doom) — это вероятность очень плохих результатов (например, вымирания человечества) в результате применения ИИ, — ред. Под p(doom) также подразумевают ситуацию, в которой ИИ возьмет контроль над человечеством или вызовет событие, которое положит конец человечеству, например, создаст новое биологическое оружие или вызовет коллапс в результате масштабной кибератаки, или ядерной войны.

Газета The New York Times назвала (p)doom новой ужасной статистикой, охватившей Кремниевую долину, при этом различные руководители технологических компаний, по словам издания, считают, что вероятность апокалипсиса, вызванного ИИ, составляет от 5% до 50%. Ямпольский оценивает риск в 99,999999%, так как будет невозможно контролировать продвинутый ИИ. По его мнению, лучше такую технологию и не создавать вообще.

"Не понимаю, почему Маск считает, что развивать эту технологию — хорошая идея", — прокомментировал Ямпольский. — "Если он обеспокоен тем, что конкуренты доберутся до нее первыми, это не имеет значения, поскольку неконтролируемый сверхинтеллект одинаково плох, независимо от того, кто его создал".

В ноябре прошлого года Маск сказал, что вероятность того, что технология в конечном итоге испортится, не равна нулю, однако он был более оптимистичен в своих оценках, чем сегодня. Хотя он и был сторонником регулирования ИИ, в прошлом году Илон основал компанию под названием xAI, целью которой является дальнейшее расширение возможностей этой технологии. xAI является конкурентом OpenAI.

На саммите Илон Маск заявил, что к 2030 году цифровой интеллект превысит весь человеческий интеллект вместе взятый, утверждая, что потенциальные положительные стороны перевешивают отрицательные, Маск признал риск для мира, если развитие ИИ продолжится по нынешней траектории в некоторых областях.

"Одна из вещей, которые, по моему мнению, невероятно важны для безопасности ИИ, — это наличие максимально любопытного и ищущего истины ИИ", — подчеркнул бизнесмен.

По его мнению, лучший способ достичь безопасности ИИ — развивать ИИ таким образом, чтобы он был правдивым.

"Не заставляйте его лгать, даже если правда неприятна", — сказал Маск.

Исследователи обнаружили, что, как только ИИ научится лгать людям, обманчивое поведение невозможно будет изменить с помощью существующих мер безопасности. Об этом, в частности, писало медиа The Independent. В материале говорилось, что если ИИ-модель будет демонстрировать обманчивое поведение, то нынешние методы обучения технике безопасности не гарантируют безопасность, но даже могут создать ложное впечатление о безопасности. Ученые также уверены, что ИИ может научиться обманывать, как говорится, просто так.

Джеффри Хинтон считает, что если нейросеть станет намного умнее людей, она сможет манипулировать ими, потому что она научится этому у людей. Об этом он заявил в комментарии CNN.


Почему вы можете доверять vesti-ua.net →

Читайте vesti-ua.net в Google News

Коли, на вашу думку, можливе закінчення війни в Україні?
Последние новости
08:13
Россия открыла новые площадки для запуска "Шахедов" по Украине, - источники
113
07:58
Европа серьезно подорвет экономику РФ, даже если США отменят санкции, - The Economist
204
07:14
Республиканцы требуют расследовать скандал с секретным чатом в Signal — The Hill
303
22:57
Президент Польши подписал закон о приостановлении права на убежище
1.6т
22:43
В Украину возвращаются дожди: прогноз на 27 марта
363
22:19
Территориальные уступки Украины: в ОП ответили, обсуждался ли вопрос в Эр-Рияде
397
22:03
Россия разрабатывает спутник для размещения ядерного оружия, - Sky News
442
21:58
Самые умные нейросети не могут пройти тест для детей: учёные раскрыли парадокс
375
21:33
Запасы еды и воды на 72 часа: европейцам советуют подготовиться к войне, - Politico
359
21:14
"Энергетическое перемирие" согласовано с США: списки Украины и РФ разные
438
20:56
Жерар Депардье, получивший от Путина гражданство РФ, публично унизил россиян на суде
1.4т
20:41
Лавров высказался о потугах США реанимировать "Северные потоки"
507
20:18
В России двенадцать украинских военнопленных «приговорили» к 13-23 годам колонии строгого режима
570
20:01
Z-пропагандисту Соловьеву сообщено о подозрении
534
19:53
Названы знаки зодиака, жизнь которых кардинально изменится в текущем году
631
19:34
Цены на коммуналку: как изменятся тарифы с 1 апреля
487
19:15
Спор из-за "российских" ядерных боеголовок в Украине: экс-посол США ответил спецпосланнику Трампа
676
18:56
Астрологи определили знаки зодиака, у которых больше всего шансов добиться успеха
741
18:37
Соглашение по Черному морю выглядит как выполнение желаний Путина, - The Guardian
491
18:18
Дания планирует внедрить обязательную военную службу для женщин
476
17:59
Дожди вероятны: синоптик дала прогноз на ближайшие дни
418
17:40
Частота визитов Сийярто в Москву вызывает недоумение, - Bloomberg
630
17:21
Лишь четыре знака зодиака этой весной получат шанс воплотить свои мечты в жизнь
1.2т
17:02
В Раде предлагают радикальную реформу системы медосмотра водителей
776
16:43
Налоги с доходов, полученных на онлайн-платформах: юрист раскрыл нюансы законопроекта
424
16:24
Цены на бензин снижаются: эксперт объяснил, что происходит
449
16:05
Польша сможет обороняться от нападения противника в течение одной-двух недель, - глава Бюро национальной безопасности
928
15:46
Синоптик назвала дату, когда Украину охватит ощутимое похолодание
645
15:27
Гороскоп на 26 марта по картам таро: кого из знаков зодиака ждут приятные неожиданности
626
15:08
«Саудовский» переговорный процесс: какого-либо конкретного результата нет
457
14:49
Европа должна быть готова к войне: в ЕС призывают жителей иметь запасы еды на случай кризиса
559
14:30
Переход на летнее время в 2025 году: когда и куда крутить стрелки часов
564
14:11
В Капитолии Колорадо заменят портрет Трампа, деньги уже собрали, - AP
580
13:52
Обменные пункты изменили курс валют: сколько теперь стоит доллар
560
13:33
В РФ подготовили новые площадки для запуска "Шахедов" по Украине, - СМИ
497
13:14
Разведка США назвала Китай главной военной угрозой
475
12:55
Соглашение о прекращении боевых действий в Черном море станет победой для Путина, - The Times
580
12:36
Укусы клещей: 6 советов, которые помогут защититься
496
Больше новостей

Продолжая просматривать Вести-UA.net Вы подтверждаете, что ознакомились с Политикой конфиденциальности и согласны с использованием файлов cookie