Неконтрольована гонка штучного інтелекту становить безпрецедентну загрозу для людства, яка за своїми наслідками може перевищити ризики ядерної війни чи глобальної зміни клімату. Про це заявив 27-річний дослідник Джейкоб Коксон, який звільнився з компанії Anthropic через побоювання щодо безпеки технологій, передають Vesti-UA.net.
Протягом останніх трьох років Коксон працював у сфері попереднього навчання моделей штучного інтелекту у двох провідних технологічних гігантах — OpenAI та Anthropic. За його словами, жодна з цих організацій не діє відповідально, а їхнє керівництво прямує до створення суперінтелекту, здатного до самовдосконалення, нехтуючи при цьому заходами безпеки.
Інженер наголосив, що провідні науковці та топменеджери компаній у приватних розмовах висловлюють серйозні побоювання, що штучний інтелект може знищити людство вже до кінця десятиліття.
Дослідник наголосив, що агресивна ринкова конкуренція загнала технологічні лабораторії в пастку, де прагнення бути першими змушує створювати потенційно небезпечні та неконтрольовані системи. Щоб зупинити цей процес, Коксон закликав колег не мовчати й запропонував запровадити тимчасову заборону на вдосконалення можливостей моделей штучного інтелекту. На його думку, така пауза необхідна для переходу до суворого міжнародного контролю та координації заходів безпеки.
Цікаво, що генеральний директор Anthropic Даріо Амодеї також неодноразово висловлював занепокоєння у своїх публіцистичних працях, через що здобув у галузі репутацію песиміста. Такі заяви підкреслюють глибоке протиріччя в сучасній ІТ-індустрії: керівники провідних компаній відчувають страх перед технологіями, створення яких самі ж і прискорюють.
