«Ера Альтрона». OpenAI створює команду Superalignment, щоб втримати надрозумний ШІ під контролем
В OpenAI прогнозують, що протягом найближчого десятиліття може з’явитися штучний інтелект, який перевершуватиме можливості людського розуму. У компанії непокояться, що якщо такий ШІ дійсно виникне, то не має гарантії, що він буде приязно налаштований до людства.
Щоб підготуватися до цього виклику, в OpenAI вирішили сформувати команду, яка займеться розробкою способів управління та контролю над «суперінтелектуальним» ШІ. Її має очолити Ілля Суцкевер (Ilya Sutskever), головний науковий співробітник та співзасновник компанії, передає TechCrunch.
У блозі, опублікованому Суцкевером та його колегою Яном Лейке (Jan Leike), йдеться, що в OpenAI наразі немає рішення, яке б дозволило керувати дуже розумним ШІ й не дати йому вийти з-під контролю.
«Наші поточні методи, такі як навчання з підкріпленням на основі зворотного зв’язку, покладаються на здатність людини контролювати ШІ. Але люди не зможуть надійно контролювати системи ШІ, які набагато розумніші за нас», — пишуть автори блогу.
Новини у світі IT | Підписатись
