Илон Маск призвал приостановить обучение новых систем искусственного интеллекта “из-за угрозы обществу”

Самый богатый предприниматель мира по версии журнала Forbes Илон Маск вместе с группой технологических экспертов призвали приостановить обучение новых систем искусственного интеллекта из-за возможной угрозы, которые обучаемые модели могут нести обществу. Письмо опубликовала финансируемая Маском американская некоммерческая организация Future of Life Institute, его подписали больше тысячи человек.

В тексте утверждается, что системы искусственного интеллекта могут изменить развитие человечества, и должны управляться с соразмерным масштабу вниманием и ресурсами. “Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что эффекты от их работы будут положительными, а риски управляемыми”, говорится в тексте.

Авторы отмечают, что современные системы ИИ способны конкурировать с человеком в решении широкого спектра задач, поэтому человечество должно решить, должны ли быть полностью автоматизированы работы, должны ли люди рисковать “потерей контроля над цивилизацией” и должны ли люди разрабатывать системы, которые будут умнее людей и сделать человека “безнадёжно устаревшим”.

В обращении говорится, что такие решения не должны доверяться лидерам технологической отрасли, которых никто не избирал. Подписанты предлагают на полгода приостановить разработку любых систем искусственного интеллекта, мощнее, чем уже вышедшая для работы в публичном пространстве модель GPT-4, разработанная компанией OpenAI.

Среди подписавших текст есть известные учёные в области искуственного интеллекта, канадец Йошуа Бенжио и британец Стюарт Рассел. Кроме того, там есть разработчики систем ИИ, конкурирующих с продуктами OpenAI. Сам Маск был сооснователем этой компании, но покинуд её в 2018 году, позднее продав принадлежавшие ему акции.

Понравилась статья? Поделиться с друзьями:
Добавить комментарий

;-) :| :x :twisted: :smile: :shock: :sad: :roll: :razz: :oops: :o :mrgreen: :lol: :idea: :grin: :evil: :cry: :cool: :arrow: :???: :?: :!: