Етичний кодекс ІІ: компанія Bosch встановлює принципи роботи з штучним інтелектом

Feb 20 14:00 2020 Друк цієї статті

- Головні принципи: ИИ повинен бути безпечним, надійним, зрозумілим і залишатися під контролем людини.

- Фолькмар Деннер, Голова Правління Bosch: "Наша мета полягає в тому, щоб люди довіряли нашим продуктам на базі ІІ".

- Альянси і партнерства для підвищення довіри до розумним продуктів з Інтернет-підключенням

Штутгарт і Берлін, Німеччина - Bosch провела етичну кордон у використанні штучного інтелекту (ШІ). В даний час компанія випустила посібник з використання ІІ в своїх розумних продуктах. Етичний кодекс Bosch для ІІ заснований на принципі: людина повинна контролювати рішення ІІ. "Штучний інтелект служить людям. Наш етичний кодекс ІІ дає співробітникам чіткі інструкції по розробці розумних продуктів, - прокоментував Деннер на відкритті Bosch ConnectedWorld (BCW) у Берліні в цьому році. - Ми хочемо, щоб люди довіряли нашої продукції на базі ІІ".

ІІ - життєво важлива технологія для Bosch. Компанія прагне до того, щоб до 2025 року вся продукція Bosch містила ІІ або вироблялася і розроблялася з його допомогою. Компанія поставила перед собою мету зробити свої продукти на базі ІІ безпечними, надійними і зрозумілими. "Довіра виникне тільки в тому випадку, коли люди зрозуміють, що ШІ - це не чорний ящик. Ось що стане ключовим чинником у світі Інтернет - технологій", - заявив Майкл Болле, директор з цифрових технологій та технічний директор Bosch. Компанія прагне виробляти надійні продукти на базі ІІ. Етичний кодекс компанії заснований на принципі "Розроблено для життя" і поєднує в собі прагнення до інновацій і соціальну відповідальність. Протягом наступних двох років, Bosch планує навчити близько 20,000 співробітників роботі з штучним інтелектом. Етичний кодекс Bosch для ШІ, регулюючий відповідальне використання цієї технології, стане частиною освітньої програми.

ІІ володіє величезним потенціалом

Штучний інтелект - це двигун глобального прогресу. Наприклад, консультанти з питань управління PwC прогнозують, що до 2030 року ІІ збільшить ВВП в Китаї на 26%, в Північній Америці - на 14%, а в Європі - приблизно на 10%. Ця технологія може допомогти впоратися з викликами, такими як боротьба зі зміною клімату, і оптимізувати результати в таких галузях, як транспорт, медицина і сільське господарство. ІІ оцінює величезні обсяги даних, на основі яких алгоритми роблять висновки і надалі приймають рішення. Тому задовго до запровадження обов'язкових стандартів Європейського Союзу Bosch почала активно займатися етичними питаннями, які виникають у зв'язку з використанням ІІ. Дії компанії засновані на тих цінностях, які закріплені у Загальній декларації прав людини.

Люди повинні зберігати контроль

Згідно з етичним кодексом Bosch для ШІ, штучний інтелект не повинен приймати рішення, що впливають на людей, без залучення оцінки людини. Більш того, штучний інтелект повинен служити людям інструментом. У кодексі описано три можливих підходи, які об'єднує наступне: у продуктах Bosch на базі ШІ людина зберігає контроль над будь-якими прийнятими алгоритмами рішеннями. У першому випадку (human-in-command) штучний інтелект відіграє роль виключно допоміжного інструменту - прикладом тому служать системи, що допомагають людям класифікувати об'єкти або живих істот. При другому підході (human-in-the-loop), розумна система автономно приймає рішення, які людина може скасувати в будь-який момент.

Наприклад, частково автономне водіння, де людина може безпосередньо втручатися в алгоритм, скажімо, системи допомоги при парковці. Третій підхід використовується в таких додатках, як системи аварійного гальмування. При розробці цих розумних продуктів фахівці встановлюють певні параметри, на основі яких ИИ приймає рішення. Тут неможливо безпосередньо втрутитися в процеси. Заднім числом інженери можуть перевірити, чи виконує машина вимоги, встановлені людиною. При необхідності параметри можуть бути змінені (human-on-the-loop).

Вибудовуємо довіру разом

Bosch також сподівається, що етичний кодекс для ІІ внесе внесок у громадську дискусію про штучний інтелект. "Оскільки ШІ змінить всі аспекти нашого життя, ця дискусія вкрай необхідна", - заявив Фолькмар Деннер. Щоб встановити довіру до розумних систем, мало одного технічного ноу-хау - потрібно налагодити діалог між політиками, науковим співтовариством і широкою громадськістю. Саме тому Bosch увійшла в High-Level Expert Group on Artificial Intelligence - орган, призначений Європейською комісією для дослідження етичних аспектів ІІ. В рамках глобальної мережі, яка в даний час включає в себе сім філій, і у співпраці з Університетом Амстердама і Університетом Карнегі-Меллон у Піттсбурзі, штат Пенсільванія, компанія займається дослідженнями в області безпечного і надійного ІІ. Також, в якості одного з засновників дослідного альянсу Кібер-долини в Баден-Вюртемберзі, Bosch інвестує 100 млн. євро в будівництво кампусу для ШІ, де незабаром 700 власних експертів компанії будуть працювати пліч-о-пліч з зовнішніми дослідниками і стартап-партнерами. І останнє, але не менш важливе: створений компанією Bosch "Форум цифрового довіри" спрямований на розвиток тісного діалогу між експертами провідних міжнародних асоціацій і організацій.

Інтернет речей безпечним і надійним", - зазначив Майкл Болле. Понад 170 спікерів і 80 експонентів Bosch ConnectedWorld (19-20 лютого 2020 р.) об'єднує понад 80 експонентів, демонструють останні тенденції і розробки в світі Інтернет-технологій. Серед понад 170 спікерів - Голова Правління Bosch Фолькмар Деннер, а також директор по цифровим технологіям і технічний директор Bosch Майкл Болле, а також Роланд Буш (заступник генерального директора Siemens), Аксель Штепкен (Голова Правління TUV Sud) і Скотт Гатрі (виконавчий віце - президент Microsoft Cloud AI Group). Головними подіями заходу стануть виступи спікерів, велика виставка і хакатон. В цьому році Bosch ConnectedWorld проводиться вже сьомий раз. Це одна з найбільших у світі міжнародних конференцій, присвячених Інтернету речей.

Коротко: основні принципи етичного кодексу Bosch для ІІ

- Всі продукти на базі ШІ компанії Bosch відображають наш принцип "Розроблено для життя", об'єднуючи в собі прагнення до інновацій і соціальну відповідальність.

- Будь-яке рішення, що впливає на людей, не може бути прийнято без людського контролю. ІІ повинен бути інструментом для людей.

- Ми розробляємо безпечні, надійні і зрозумілі продукти на базі ІІ.

- Довіра - одна з основних цінностей нашої компанії. Ми хочемо розробляти надійні продукти на базі ІІ.

- Розробляючи продукти на базі ШІ, ми дотримуємось вимог закону та інші етичні принципи.