5 викликів штучного інтелекту Австралійська антропологиня | Антропологинька
5 викликів штучного інтелекту
Австралійська антропологиня Женев’єв Бел (про яку я розповідала ось тут) відома світові завдяки своїй більш ніж 20-річній роботі в компанії Intel. Зокрема, вона багато працювала з технологією штучного інтелекту і етичними викликами, які він створює для суспільства. В одному зі своїх виступів у Кремнієвій долині Женев’єв поділилася п’ятьма питаннями, що постануть перед людством у майбутньому зі штучним інтелектом.
ХХІ століття - це ера технологій, і щороку в житті людей їх стає все більше. Але антропологічний погляд на технології означає передусім вивчення їхньої взаємодії з суспільством і культурою. Штучний інтелект є тим інструментом, що здатен суттєво видозмінити звичний нам світ, а тому його масове використання в майбутньому ставить перед людством низку викликів:
Чи будуть ці системи по-справжньому автономними?
Інженери, які створюють нові технології (автомобілі з автопілотами, комп’ютерні програми, розумні будинки) мають різне бачення того, що таке «автономність». Автономний – це розумний? Чи автономний –це свідомий? Чи автономний – це такий, який має самосвідомість? Насправді автономність – це робота без посилань на завчасно прописані правила для всіх можливих сценаріїв. Тому системи можуть бути автономними і не бути розумними чи свідомими. Але як дізнатися, що система дійсно автономна?
Хто встановлює обмеження і контролює ці системи?
Як ми можемо дізнатися, наскільки далеко система здатна зайти без нас? Хто визначає правила, які її обмежують? Вони вбудовані в саму технологію чи існують поза її межами? В автономному автомобілі ми точно знаємо, які правила зашиті всередині нього, але чи хочемо ми мати можливість їх обходити за потреби? І як ці правила працюватимуть в різних країнах і культурах? І як їх оновлювати, коли виникне така потреба?
Безпека і масштабування (ризик, відповідальність, довіра, приватність, гарантії, етика, керованість, доступність, простота використання).
Якщо система має певний рівень автономності і виконує певні дії, хто потім нестиме за ці дії відповідальність? Який рівень ризиків вважати припустимим? І хто має право це вирішувати? Хто розв’язуватиме ці етичні дилеми? Для кого мають бути безпечними автономні системи: для людей всередині, для людей ззовні чи для може міст, які їх закуповують? Як формується уявлення про те, що таке безпека, і як ці уявлення змінюються з часом?
Які метрики можна застосовувати до цих систем?
Як вирішити, хороша ця система чи погана? У часи індустріальної революції для технологій було два критерії – ефективність і продуктивність. Важливо було знати, чи зекономлять вони час і чи зекономлять вони гроші. Штучний інтелект в усіх автономних системах вимагає електрики. А як же сталий розвиток? Індустріальна революція знищила майже кожне дерево у Великій Британії. Тому що тоді критерії стосувалися не екологічності, а прибутковості. А які метрики ми застосуємо сьогодні?
Як нам бути людьми у цьому світі?
Як нам взаємодіяти з автономними системами? Як це, бути людиною у світі, де системи приймають за нас всі ті рішення, які раніше приймали ми самі? Де системи виконують ті дії, які раніше виконували ми? Як це, жити у світі, де системи, спілкуються одна з одною без участі людини?
Антропологія не має відповіді на жодне з цих питань. Бо антропологи добре знають, як ставити запитання, але не завжди знають, як давати на них відповідь. Тому Женев’єв упевнена, що для цього потрібна нова прикладна дисципліна на межі інженерії і соціальних наук. І саме вона допоможе людству знайти відповіді.
#anthropologicalvideo
