В Google будут изучать опасности искусственного интеллекта

23-06-2016, 15:36 / Автор: Ілько Северин
/
Читати українською
В Google будут изучать опасности искусственного интеллекта
Пока что машины не могут принимать важные решения самостоятельно

Исследователи из команды Google AI, обеспокоенные бесконтрольным развитием ИИ, предложили создать платформу по изучению потенциальных опасностей искусственного интеллекта.

«Мы считаем важным начать разрабатывать практические подходы к созданию безопасных и надежных систем ИИ», — написал в блоге Крис Олах, один из ученых Google AI, сообщают Вести-UA.net.net со ссылкой на hightech.fm.

Олах и его коллеги приводят пример робота, который учится убирать помещение. И может научиться тому, чему не следует. Например, как созданный Томом Мерфи бот для игры в Nintendo, который научился постоянно нажимать кнопку паузы, играя в «Тетрис». Что если робот научится сбивать вазы на пол, потому что так проще убираться? Как помешать машине делать глупые и опасные вещи, например, мыть мокрой тряпкой розетки? Как объяснить, что то, что можно делать дома, нельзя делать в офисе?

Ученые Google AI установили несколько конкретных принципов для исследователей ИИ: «избегать негативных побочных эффектов», например, или «безопасное исследование». Это практические советы, но теоретическое обоснование еще не определено. Поскольку ни у кого нет хороших ответов, Олах считает, что пора начать их искать. ИИ не будет нас ждать, пишет Wired.

Системы наподобие AlphaGo учатся анализировать огромный объем данных, но обучается на их основе компьютер самостоятельно. Он играет сам с собой в игры и приходит к решениям, которые человеку в голову не приходили. И ведет себя непредсказуемо.

Пока машины не могут принимать важные решения самостоятельно, потому что моральные вопросы для них непонятны. Но уже ведутся разработки и в этом направлении. Например, Кен Форбус из Северо-Западного университета создал механизм отображения структур, который позволяет компьютеру делать выводы на основе аналогий. «В теории можно научить его вести себя больше как человек», — говорит он.

Но до этого еще далеко, тем более что и люди не могут сойтись во мнении, что такое хорошо, а что — плохо. Тем временем, машины умнеют. И вопрос не в том, смогут ли они когда-нибудь выиграть в «Тетрис», не жульничая. А в том, смогут ли они понять, что жульничать нехорошо.


Почему вы можете доверять vesti-ua.net →

Читайте vesti-ua.net в Google News

Чи потрібно збільшувати покарання (розмір штрафів) за порушення ПДР?
Последние новости
22:03
В Украину придут дожди с грозами: прогноз на 29 марта
154
21:58
Россию ждут еще большие потрясения: экстрасенс дал прогноз
231
21:33
У Лазарева депрессия после теракта, он останавливает концертную деятельность
286
21:14
Зеленский представил нового главу внешней разведки (фото)
292
20:56
В Киевской ОВА обнаружен российский "крот": ВСУ были в опасности
424
20:41
Когда перед Пасхой мыть окна, чтобы в дом пришли счастье и богатство
536
20:18
Мобилизуют ли студентов-выпускников перед магистратурой: ответ президента
369
20:01
Оккупанты пытаются прорваться к еще одному поселку возле Авдеевки: 3 ОШБр о ситуации на фронте
300
19:54
Гороскоп на 29 марта: кого из знаков зодиака ждут захватывающие события
19:36
Китай разработал управляемую зенитную ракету с дальностью полета более 2 тыс. километров
388
19:18
Поляки разблокировали движение грузовиков на одном из пунктов пропуска
380
19:00
Финансовый гороскоп на апрель: кто из знаков зодиака сможет увеличить свой доход
651
18:42
В СНБО опровергли информацию о наступлении 350 тысяч солдат РФ на Харьков
446
18:24
В Укрэнерго сообщили о возможном применение графиков отключения электроэнергии
490
18:07
НБУ может отказаться от доллара как основной валюты курсовой привязки
461
17:49
Древесину продали в столице: преступная группа срубила 100-летние дубы в Чернобыльском заповеднике
423
17:31
Астролог дала новый прогноз по окончанию войны в Украине
1.6т
17:13
Гороскоп любви на апрель: многие пары испытают кризис отношений
845
16:55
Германия не намерена отправлять в Украину ни Taurus, ни военных, - Шольц
508
16:37
9 из 10 солдат на передовой имеют проблемы с игроманией, - Гончаренко
1.2т
16:19
Социологи выяснили, почему украинские беженцы возвращаются из-за границы
1.1т
16:01
Зеркальная дата 30.03.2024: что нельзя делать в такой день
15:43
Повышение пенсий с 1 апреля: что следует знать
707
15:25
Достижение мира в Украине: ряд стран постоянно обсуждают, как сесть за стол переговоров, - Шольц
490
15:07
Проводил разведку вблизи госпиталя: в Днепре СБУ задержало агента ФСБ
514
14:49
В сети вспыхнул скандал с участием начальника одного из ТЦК Ровенской области: начата проверка
1.4т
14:31
Канада не намерена продлевать миграционную программу CUAET
489
14:13
Астрологи назвали три знака зодиака, которые никогда не стареют
863
13:56
Окончание войны в 2024 году: военный эксперт объяснил, что для этого понадобится
515
13:38
Зарплаты, налоги, выплаты: что изменится с 1 апреля
729
13:20
В Раде не всегда придерживаются демократических стандартов и предлагают безумные законопроекты, - евродепутат
586
13:02
Обменники обновили курсы валют: доллар снова вырос
631
12:44
Ретроградный Меркурий в апреле: на какие дни лучше планировать поездки
472
12:26
Российские оккупанты продвинулись возле Бахмута и подошли к Часовому Яру - ISW
1.4т
12:08
Помощь беженцам из Украины: Польша готовит "революционные" изменения
1.3т
11:50
Повышение тарифов на электроэнергию: будет ли рост цен
531
11:32
Не остаться без пенсии: как проверить будущие выплаты
657
11:14
Неотложное заседание Совета обороны Киева: в столице заговорили об угрозе вторжения вражеских ДРГ
1.1т
Больше новостей

Продолжая просматривать Вести-UA.net Вы подтверждаете, что ознакомились с Политикой конфиденциальности и согласны с использованием файлов cookie