В Google будут изучать опасности искусственного интеллекта

23-06-2016, 15:36
В Google будут изучать опасности искусственного интеллекта
Пока что машины не могут принимать важные решения самостоятельно
1.7т

Исследователи из команды Google AI, обеспокоенные бесконтрольным развитием ИИ, предложили создать платформу по изучению потенциальных опасностей искусственного интеллекта.

«Мы считаем важным начать разрабатывать практические подходы к созданию безопасных и надежных систем ИИ», — написал в блоге Крис Олах, один из ученых Google AI, сообщают Вести-UA.net.net со ссылкой на hightech.fm.

Олах и его коллеги приводят пример робота, который учится убирать помещение. И может научиться тому, чему не следует. Например, как созданный Томом Мерфи бот для игры в Nintendo, который научился постоянно нажимать кнопку паузы, играя в «Тетрис». Что если робот научится сбивать вазы на пол, потому что так проще убираться? Как помешать машине делать глупые и опасные вещи, например, мыть мокрой тряпкой розетки? Как объяснить, что то, что можно делать дома, нельзя делать в офисе?

Ученые Google AI установили несколько конкретных принципов для исследователей ИИ: «избегать негативных побочных эффектов», например, или «безопасное исследование». Это практические советы, но теоретическое обоснование еще не определено. Поскольку ни у кого нет хороших ответов, Олах считает, что пора начать их искать. ИИ не будет нас ждать, пишет Wired.

Системы наподобие AlphaGo учатся анализировать огромный объем данных, но обучается на их основе компьютер самостоятельно. Он играет сам с собой в игры и приходит к решениям, которые человеку в голову не приходили. И ведет себя непредсказуемо.

Пока машины не могут принимать важные решения самостоятельно, потому что моральные вопросы для них непонятны. Но уже ведутся разработки и в этом направлении. Например, Кен Форбус из Северо-Западного университета создал механизм отображения структур, который позволяет компьютеру делать выводы на основе аналогий. «В теории можно научить его вести себя больше как человек», — говорит он.

Но до этого еще далеко, тем более что и люди не могут сойтись во мнении, что такое хорошо, а что — плохо. Тем временем, машины умнеют. И вопрос не в том, смогут ли они когда-нибудь выиграть в «Тетрис», не жульничая. А в том, смогут ли они понять, что жульничать нехорошо.

Напомним, В Украине установлена единая цена на регистрацию автомобилей.

Ранее Вести-ua.net писали, Google знает о вас все: 14 вещей, которые могут вас удивить.

Также Вести-ua.net сообщали, В Затоке из ружья убили владельца кафе.


Что, по Вашему мнению, должна в первую очередь делать власть в медицинской сфере Украины?
Последние новости
19:58
Ученый: юг Украины через 30 лет станет пустыней
28
19:49
В Затоке из ружья убили владельца кафе
172
19:40
В Одессе мужчина с ножом ранил двух прохожих
210
19:28
Украина проведет в 2023 году Всемирную зимнюю Гимназиаду
242
19:13
Стефанчук рассказал о конфликте с Разумковым и предъявил ему претензии
349
18:59
Выздоравливают за несколько дней: в Израиле испытывают лекарства от COVID
431
18:44
В Кривом Роге погибли три сотрудника водоканала: их затянуло в насос
324
18:37
Космическая миссия доставит флаг Украины на Луну
325
18:22
Латвия изменила правила въезда для украинцев: кто не сможет попасть в страну
361
18:10
Михайлово Чудо 2021: главные запреты этого дня
766
17:52
Олю Полякову на концерте пронзила боль: подробности из Черновцов
481
17:41
Порошенко ветеран заставил прятаться в машине от вопроса о коррупции
779
17:30
25 тысяч испансиких студентов устроили алко-пати, несмотря на пандемию
431
17:19
Когда слабеет защита вакцины: Moderna дала честный ответ
858
17:08
Налоги на квадратные метры вырастут: сколько придется заплатить владельцам квартир
829
16:57
Детей нашли мертвыми в сундуке: на Донбассе расследуют странную гибель двух малышей
666
16:46
За должность не держусь, – Разумков высказался о возможной отставке
563
16:35
Какие регионы Украины верят в вакцинацию, а какие - нет: выводы социологов
714
16:24
78-летний миллиардер отправился в тюрьму за убийство 20-летней давности
668
16:13
Украина снова космическая держава: правительство одобрило соответствующую программу
527
15:53
В Испании погибла кастинг-директор кинокомпании "Мамахохотала"
766
15:42
Украинским пенсионеркам пообещали прибавку, о мужчинах промолчали
785
15:31
У Наташи Королевой обнаружилась внебрачная дочь, которая живет в США
1.2т
15:20
"Признайтесь!" Семьи жертв MH-17 требуют от РФ правды
608
15:09
Ургант не знал, куда деваться: на премии GQ в РФ прозвучало скандальное заявление
974
14:58
Игнорировать нельзя: врач назвала самую опасную боль в животе
715
14:47
Алина Гросу со своим возлюбленным показала кадры свадьбы
1.8т
14:36
Чего на самом деле боятся антипрививочники
1.1т
14:25
Будет лить с утра до ночи: украинцев предупредили о ливнях
922
14:14
"Яжемать" в шоке от учебника истории, который знакомит с разными теориями происхождения человека
1.2т
14:03
Проблемные доллары: какие купюры не принимают в обменниках
1.4т
13:52
Игра в "русскую рулетку" для харьковчанина закончилась госпитализацией
656
13:41
Курорт закроют для "бюджетных" туристов: назревает мировой скандал
1.1т
13:30
Выздоровление за несколько дней: в Израиле испытывают новое лекарство от COVID-19
13:19
Идет похолодание вплоть до заморозков: названы сроки
1.1т
13:07
Названы шесть Зодиака, которые умеют добиваться цели
12:56
Вышел из положения: в супермаркете Херсона замечен мужчина в креативной "маске"
1.1т
12:45
Выборы в Госдуму РФ: где в Украине работают участки для голосования
934
Больше новостей

Продолжая просматривать Вести-UA.net Вы подтверждаете, что ознакомились с Политикой конфиденциальности и согласны с использованием файлов cookie