Сверхразумный искусственный интеллект может появиться в ближайшие пять лет. Он будет принимать решения быстрее, чем человек успеет их проверить, оспорить или отменить, сообщает Centralmedia24.
В британском Институте Алана Тьюринга опубликовали доклад о рисках передового искусственного интеллекта. Авторы сразу уточнили, что речь идёт о сценарии, к которому нужно готовиться, а не о точном прогнозе.
Исследователи выделили пять угроз: кибератаки, дестабилизацию демократии, расхождение действий ИИ с целями человека, утрату реального контроля, а также химические и биологические риски. По их оценке, опасность вырастет, если организации начнут передавать алгоритмам всё больше решений ради скорости.
«Контроль имеет смысл лишь тогда, когда человек может оценить доказательства, оспорить варианты и выбрать другой путь», – подчеркнули авторы.
Они призвали проверять не только отдельные модели, но и всю систему: технологии, людей и рабочие процессы. Исследователи также усомнились в простой «аварийной кнопке». ИИ может успеть отправить сообщения, изменить программы и запустить задачи, а его отключение уже не вернёт всё назад. Поэтому разработчикам нужны ограничения доступа, журнал действий и безопасный запасной режим.
Ранее мы писали, что в Казахстане утвердили план Digital Qazaqstan до 2029 года. Власти намерены широко внедрять искусственный интеллект и одновременно усиливать кибербезопасность.
Читайте также:
