Центр безпеки ШІ (CAIS) опублікував відкрите звернення з вимогою мінімізувати потенційні ризики технології. У ньому загроза від штучного інтелекту для людства зіставляється з ядерним конфліктом і пандемією Covid-19.
Ознайомитися з документом можна за посиланням. Його підписали глави технокомпаній, провідні експерти в цій галузі, мережеві інженери та багато інших. Серед них є, наприклад, доктор Джеффрі Гінтон, більш відомий як «Хрещений батько ШІ».
«Мінімізація ризику загибелі нашої цивілізації через ШІ має стати глобальним пріоритетом поряд з іншими загрозами світового рівня, такими, як, наприклад, пандемія або ядерна війна» — наводить витяг зі звернення Ден Хендрікс, голова Центру.
Цікаво, що далеко не всі поділяють думку CAIS і підписантів звернення. Так, деякі експерти у сфері ШІ виступають за підтримку галузі, а не її бездумне обмеження.
Ось так, наприклад, ситуацію бачить глава підрозділу штучного інтелекту Meta Янн ЛеКун:
«Просунутий ШІ навіть близько не в топі екзистенційних ризиків. Здебільшого тому, що його ще просто немає. Доти, доки технологія залишається в зародковому стані, безглуздо обговорювати заходи для дотримання безпеки».
Також примітно те, що серед підписантів звернення є представники і навіть глави компаній, які займаються розробкою продуктів на базі ШІ.
Позиція Центру і пропоновані ним заходи до кінця не зрозумілі, як і необхідні подальші дії для запобігання «загрози». Саме тому публікації CAIS часто називають просто популістським жестом.