6 великих етичних питань про майбутнє ШІ Штучний інтелект | skynet | майбутнє вже тут
6 великих етичних питань про майбутнє ШІ
Штучний інтелект оточує нас звідусіль: виконує складні наукові розрахунки, аналізує великі об’єми даних, автоматизує виробництво. Але як можна гарантувати, що створені нами програми є відповідальними, безпечними та стійкими? З цієї причини, перед створенням чергового ШІ, експерти ставлять 6 ключових запитань.
1. Наскільки система є автономною? Ліфти в наших будинках є певною мірою автономними. Вони здатні самостійно рухатися вниз і вгору без контролю. Проте не здатні покинути будівлю та піти в бар на сусідній вулиці.
2. Чи система має владу? Чи є в неї певні обмеження та запобіжники, які не дозволяють їй робити певні речі за певних умов? У ліфті працівник екстреної служби може за допомогою спеціального ключа перезапустити всю систему. Але що трапляється, коли система керується ШІ? Де знаходиться цей ключ? Який він має вигляд та хто має до нього доступ?
3. Які гарантії? Як можна гарантувати безпеку, довіру, відповідальність, керованість, зрозумілість, етику, державну політику, закон, регулювання? І як можна бути впевненим, що система є надійною і функціонує?
4. Яким буде спілкування з ШІ? Чи будемо ми з ними розмовляти? Чи будуть вони говорити з нами, чи спілкуватимуться між собою? І що це означатиме: низка технологій, які ми знали все життя, тепер поводиться зовсім по-іншому?
5. Якими є показники, що система працює добре? Двісті років промислової революції демонструють, що двома найважливішими факторами хорошої системи є продуктивність та ефективність. Проте у 21-му столітті з’явилися нові показники — стійкість, безпечність і відповідальність системи. Хто матиме право оцінювати ці поняття? Користувачі хочуть розуміти, як ці речі регулюються, керуються та будуються.
6. Які їх наміри? Для чого призначена ця система та хто сказав, що це хороша ідея? Який світ будує ця система? Яким його уявляють і яке його ставлення до світу, в якому ми живемо сьогодні?
Гуманоїди, звісно, поки що не ходять вулицями з думками, як позбутися людей. Але вже скоро може ожити черговий "Скайнет" з своїми думками і намірами. Сподіваємось, вчені й справді стежать, щоб ніякий запобіжник не перегорів
#футурологія
