Твердження про те, що регуляторна система відстає від стрімкого розвитку технологій якнайкраще відображається в дебатах виниклих навколо Законопроекту ЄС про штучний інтелект (AI Act). Як і безліч інших законів, що стосуються цифрових продуктів, послуг і технологій, AI Act обговорюється “навздогін”, коли програми та системи, які використовують штучний інтелект (ШІ) вже активно функціонують на ринку.
Законопроект ЄС про штучний інтелект - це перший законопроект про ШІ, ухвалений великим регулюючим органом у світі. У законопроекті визначено категорії ризику, до яких належать додатки та системи ШІ. Наприклад, програми та системи, що створюють неприйнятний ризик (як державний соціальний скоринг у Китаї), заборонені. Програми з високим рівнем ризику (як інструмент сканування резюме, який ранжує претендентів) підпадають під певні юридичні вимоги. Додатки, які явно не заборонені, і не належать до категорії високоризикових, як це видно сьогодні, здебільшого залишаються нерегульованими.
Відповідно до законопроекту, буде заборонено додатки, які використовують техніки впливу на підсвідомість, спрямовані на вразливу аудиторію або дозволяють віддалену біометричну ідентифікацію. Основна думка законопроекту - система ШІ має бути прозорою настільки, щоб користувач міг зрозуміти що відбувається в системі з даними, як цим користуватися, які вигоди це приносить і як впливає на безпеку.
Безумовно, системи ШІ впливають на те, яку інформацію користувач бачить в Інтернеті, передбачає, який контент може бути цікавим, збирають та аналізують дані про користувачів для забезпечення дотримання законів або персоналізації реклами, а також використовуються для діагностики та лікування хвороб. Іншими словами, ШІ впливає на багато аспектів життя користувача, і у зв'язку з цим законопроект зобов'язує компанії оприлюднити інструкції та технічну документацію до запуску системи.
Як і Загальний регламент ЄС із захисту даних (GDPR) у 2018 році, Закон ЄС про ШІ може стати глобальним стандартом, який визначає, якою мірою ШІ впливає на життя користувача, незалежно від того, де знаходиться користувач.
Сьогодні AI Act вже спричиняє міжнародну бурю. Ще наприкінці вересня 2021 року Конгрес Бразилії ухвалив законопроект, що створює правову основу для штучного інтелекту, а вже в березні цього року у ChatGPT стався масштабний витік даних, після якого італійський регуляторний орган захисту персональних даних заблокував ChatGPT, висунувши претензії до OpenAI. Обидві претензії - незаконне збирання даних та відсутність системи перевірки віку неповнолітніх - є досить жорсткими порушеннями GDPR. Цей та інші не такі гучні випадки підштовхнули всі наглядові органи ЄС до того, щоб краще скоординувати зусилля та ще раз заглибитись у положення запропонованого законопроекту ЄС про ШІ.
До обговорення закону залучені громадські організації, юристи, представники бізнесу, та практично всі учасники обговорення сходяться в одному: у запропонованому законі є лазівки та винятки, які обмежують здатність Закону гарантувати, що ШІ принесе лише користь у життя користувача. Наприклад, наразі розпізнавання осіб поліцією заборонено, якщо тільки зображення не знімаються із затримкою або технологія не використовується для пошуку зниклих дітей. Крім того, закон негнучкий. Якщо через два роки небезпечний додаток ШІ буде використаний у непередбаченому секторі, закон не передбачає механізму, що дозволяє позначити його як висококорисковий.
Інститут майбутнього життя (FLI), незалежна некомерційна організація, метою якої є максимальне використання переваг технологій та зниження пов'язаних з ними ризиків, поділився своїми рекомендаціями щодо Закону ЄС про штучний інтелект із Європейською комісією. Стверджується, що Закон має гарантувати, що постачальники ШІ враховують вплив своїх застосунків на суспільство загалом, а не лише на окрему людину. Застосунки ШІ, які завдають незначної шкоди окремим людям, можуть завдати значної шкоди на рівні суспільства. Наприклад, маркетинговий застосунок, що використовується для впливу на поведінку громадян під час голосування, може вплинути на результати виборів.
Центр майбутнього інтелекту та Центр вивчення екзистенційного ризику, дві провідні установи Кембриджського університету, теж представили Європейській комісії свої відгуки про запропонований законопроект. Вони сподіваються, що Закон допоможе встановити міжнародні стандарти для забезпечення переваг та зниження ризиків ШІ. Одна з їхніх рекомендацій полягає в тому, щоб дозволити пропонувати зміни у списку систем з обмеженим доступом та високим рівнем ризику, що підвищить гнучкість регулювання.
Access Now, організація, яка захищає та розширює цифрові права користувачів, також надала відгук про Закон ЄС про ШІ. Вони стурбовані тим, що закон у його нинішньому вигляді не зможе досягти мети захисту основних прав користувача. Незважаючи на те, що поточний проект Закону виступає за зобов'язання про прозорість таких біометричних додатків, як, наприклад, розпізнавання емоцій чи поліграфи ШІ, Access Now рекомендує більш суворі заходи для зниження ризиків.
Суспільство майбутнього, некомерційна організація, зареєстрована в Естонії, яка виступає за відповідальне впровадження ШІ на благо людства, представила до Європейської комісії свій відгук. Одна з пропозицій полягає в тому, щоб забезпечити відповідність управління технологічним тенденціям. Цього можна досягти за рахунок покращення обміну інформацією між національними та європейськими установами та систематичного збору та аналізу звітів про інциденти від держав-членів.
Фахівці стверджують, що Закон ЄС про штучний інтелект не завжди точно визнає помилки та шкоду, пов'язані з різними видами систем ШІ, і не належним чином розподіляють відповідальність за них. Вони також заявляють, що пропозиція не забезпечує ефективного підґрунтя для забезпечення дотримання законних прав та обов'язків. У пропозиції не приділяється належної уваги забезпеченню прозорості, підзвітності та прав на участь громадськості.
Center for Data Innovation, некомерційна організація, що займається інноваціями, заснованими на даних, опублікувала звіт, в якому стверджується, що Закон ЄС про штучний інтелект коштуватиме 31 мільярд євро протягом наступних п'яти років і скоротить інвестиції в штучний інтелект майже на 20%.
AI Act - це частина нової європейської цифрової стратегії, яка, крім ШІ, зачіпає й інші аспекти цифрового світу. Зокрема, AI Act передбачає створення нових регуляторів, проте яким чином здійснюватиметься взаємодія між новими та старими регуляторами, поки що невідомо.
Як і GDPR, Закон ЄС про ШІ поширюватиметься на всі компанії, які планують вихід на ринок ЄС. Штрафи плануються до 30 млн. ЄВРО або до 6% річного обороту (як і у зв'язку з GDPR це залежить від того, що більше).
Існує також думка про те, що заклики та листи деяких лідерів цифрового світу призупинити або сповільнити розробку ШІ – це “голос” тих, хто не встиг з вигодою скористатися перевагами систем штучного інтелекту. І саме тому зараз (на відміну від інших ситуацій) ці компанії горою стоять за суворіше регулювання використання систем ШІ. Звичайно, можна було б нагадати їм про те, на чиєму боці вони були, коли порушували GDPR і воювали проти штрафів, що накладалися на них. Але…
В будь-якому випадку вже у травні цього року парламент, рада та комісія ЄС планують фінальні дебати щодо AI Act. Чи справді вони будуть “фінальними” покаже час.
Якщо у вас є питання щодо регулювання AI, звертайтесь до Avitar.
Підписуйтесь на наші канали у соціальних мережах:
Зв'яжіться з нами:
business@avitar.legal
Сергій Флорескул
,
Віолетта Лосєва
,
