Неконтролируемая гонка искусственного интеллекта создает беспрецедентную угрозу для человечества, которая по масштабу рисков может превзойти ядерную войну или глобальное изменение климата. Об этом заявил 27-летний исследователь Джейкоб Коксон, который уволился из компании Anthropic из-за опасений по поводу безопасности технологий, передают Vesti-UA.net.
В последние три года Коксон работал в сфере предварительного обучения моделей ИИ в двух ведущих технологических гигантах — OpenAI и Anthropic. По его словам, ни одна из этих организаций не действует ответственно, а их руководство направляется к созданию самосовершенствующегося сверхинтеллекта, пренебрегая мерами безопасности.
Инженер подчеркнул, что ведущие ученые и топ-менеджеры компаний в частных разговорах выражают серьезные опасения, что искусственный интеллект может уничтожить человечество уже до конца десятилетия.
Исследователь подчеркнул, что агрессивная рыночная конкуренция загнала технологические лаборатории в ловушку, где стремление быть первыми заставляет создавать потенциально опасные и неконтролируемые системы. Чтобы остановить этот процесс, Коксон призвал коллег не молчать и предложил ввести временный запрет на усовершенствование возможностей ИИ-моделей. По его мнению, такая пауза необходима для перехода к строгому международному контролю и координации мер безопасности.
Интересно, что генеральный директор Anthropic Дарио Амодеи также неоднократно выражал беспокойство в своих публицистических трудах, из-за чего получил в области репутацию пессимиста. Подобные заявления подчеркивают глубокое противоречие в современной IT-индустрии, когда руководители ведущих компаний испытывают страх перед технологиями, создание которых они сами и ускоряют.
