Європейська Комісія вітає політичну домовленість, що була досягнута між Європейським парламентом і Радою щодо Закону про штучний інтелект (Закон про ШІ). Він був запропонований Комісією в квітні 2021 року.

Урсула фон дер Ляєн, Президентка Європейської Комісії, зазначила:

Штучний інтелект уже змінює наше повсякденне життя. І це лише початок. Розумне та широке використання ШІ обіцяє величезні переваги для нашої економіки та суспільства. Тому я дуже вітаю сьогоднішню політичну домовленість Європейського парламенту та Ради щодо Закону про штучний інтелект. Закон ЄС про штучний інтелект є першою всеосяжною правовою базою щодо штучного інтелекту в усьому світі. Отже, це історичний момент. Закон про ШІ переносить європейські цінності в нову еру. Завдяки зосередженню регулювання на ризиках, що можна визначити, сьогоднішня домовленість сприятиме відповідальним інноваціям у Європі. Гарантуючи безпеку та основні права людей і компаній, вона підтримуватиме розробку, розгортання та впровадження надійного ШІ в ЄС. Наш Закон про штучний інтелект зробить значний внесок у розробку глобальних правил і принципів для ШІ, орієнтованого на людину.

Європейський підхід до надійного ШІ

Нові правила застосовуватимуться безпосередньо в усіх країнах-членах на основі перспективного визначення ШІ. Йдеться про дотримання підходу, що ґрунтується на ризиках:

Мінімальний ризик: переважна більшість систем штучного інтелекту потрапляє в категорію мінімального ризику. Програми з мінімальним ризиком, такі як системи рекомендацій із підтримкою штучного інтелекту або фільтри спаму, отримають переваги від вільного проходу та відсутності зобов’язань, оскільки ці системи становлять лише мінімальний ризик або не становлять жодного ризику для прав чи безпеки громадян. Позаяк на добровільній основі компанії можуть прийняти додаткові кодекси поведінки для цих систем ШІ.

Високий ризик: системи штучного інтелекту, визначені як такі, що становлять високий ризик, повинні відповідати суворим вимогам, включаючи системи зменшення ризиків, високу якість наборів даних, журнал активності, детальну документацію, чітку інформацію для користувачів, контроль з боку людини і високий рівень надійності, точності та кібербезпеки. Регуляторні «пісочниці» сприятимуть відповідальним інноваціям і розробці сумісних систем ШІ.

Приклади таких систем штучного інтелекту з високим ризиком включають певні критичні інфраструктури, наприклад, у сферах водопостачання, газу та електроенергії; медичні вироби; системи для визначення доступу до навчальних закладів чи для вербування людей; або певні системи, що використовуються у сфері правоохоронних органів, прикордонного контролю, здійснення правосуддя та демократичних процесів. Окрім того, системи біометричної ідентифікації, категоризації та розпізнавання емоцій також належать до категорії високого ризику.

Неприйнятний ризик: системи ШІ, що вважаються очевидною загрозою для основних прав людини, будуть заборонені. Сюди входять системи або програми штучного інтелекту, які маніпулюють поведінкою людей, щоб обійти свободу вибору користувачів, як-от іграшки, що використовують голосовий набір, який заохочує небезпечну поведінку неповнолітніх, або системи, що дозволяють урядам або компаніям «соціальне оцінювання», а також певні програми інтелектуального контролю. Крім того, деякі види використання біометричних систем будуть заборонені, наприклад, системи розпізнавання емоцій, що використовуються на робочому місці, і деякі системи для категоризації людей або дистанційної біометричної ідентифікації в режимі реального часу для цілей правоохоронних органів у загальнодоступних місцях (за окремими винятками).

Конкретний ризик порушення прозорості: використовуючи системи ШІ, такі як чат-боти, користувачі повинні знати, що вони взаємодіють із машиною. «Глибокі фейки» та інший контент, створений штучним інтелектом, повинні бути позначені як такі, а користувачі мають бути проінформовані, коли використовуються системи біометричної категоризації чи розпізнавання емоцій. Крім того, постачальники повинні будуть розробляти системи таким чином, щоб синтетичний аудіо-, відеоконтент, текст і зображення позначалися у форматі, що зчитується машинами, та як такі, що створені штучно чи піддавались маніпуляції.

Штрафи

Компанії, що не дотримуються правил, будуть оштрафовані. Штрафи коливатимуться від 35 мільйонів євро або 7% світового річного обороту (залежно від того, що більше) за порушення заборонених додатків ШІ, 15 мільйонів євро або 3% за порушення інших зобов’язань і 7,5 мільйонів євро або 1,5% за надання неправдивої інформації. Передбачено більш пропорційні обмеження для адміністративних штрафів для малих і середніх підприємств й стартапів у разі порушення Закону про штучний інтелект.

ШІ загального призначення

Закон про штучний інтелект вводить спеціальні правила для моделей штучного інтелекту загального призначення, що забезпечать прозорість у ланцюжку створення вартості. Для дуже потужних моделей, що можуть створювати системні ризики, існуватимуть додаткові обов’язкові зобов’язання, пов’язані з управлінням ризиками та моніторингом серйозних інцидентів, проведенням оцінки моделі та конкурентним тестуванням. Ці нові зобов’язання будуть реалізовані через кодекси практики, розроблені промисловістю, науковою спільнотою, громадянським суспільством та іншими зацікавленими сторонами разом із Комісією.

З точки зору управління, національний компетентний орган ринкового нагляду контролюватиме впровадження нових правил на державному рівні. Своєю чергою, створення нового Європейського офісу штучного інтелекту в рамках Європейської Комісії забезпечить координацію на європейському рівні. Новий Офіс штучного інтелекту також контролюватиме впровадження та дотримання нових правил щодо моделей штучного інтелекту загального призначення. Разом із національними органами ринкового нагляду Офіс ШІ стане першим органом у цілому світі, що забезпечує дотримання обов’язкових правил щодо ШІ, і тому очікується, що він стане міжнародним орієнтиром. Для моделей загального призначення наукова група незалежних експертів відіграватиме центральну роль, повідомляючи про системні ризики та сприяючи класифікації та тестуванню моделей.

Наступні кроки

Зараз політична домовленість підлягає офіційному схваленню Європейським парламентом і Радою та набуде чинності через 20 днів після публікації в Офіційному віснику ЄС. Тоді Закон про штучний інтелект почне застосовуватись через два роки після набрання чинності, за винятком деяких особливих положень: заборони застосовуватимуться вже через 6 місяців, а правила щодо штучного інтелекту загального призначення – через 12 місяців.

Щоб подолати перехідний період до того, як Регламент стане загальноприйнятним, Комісія запустить Пакт про ШІ. Він збиратиме розробників штучного інтелекту з Європи та всього світу, які зобов’язуються достроково та на добровільній основі виконувати ключові зобов’язання Закону про штучний інтелект.

Щоб просувати правила щодо надійного ШІ на міжнародному рівні, Європейський Союз продовжуватиме працювати на таких форумах, як Група Семи, ОЕСР, Рада Європи, Група Двадцяти та ООН. Нещодавно ми підтримали угоду лідерів Групи Семи у рамках Хіросімського процесу щодо штучного інтелекту про Міжнародні керівні принципи і добровільний Кодексу поведінки для передових систем штучного інтелекту.

Контекст

Протягом багатьох років Комісія сприяла та розширювала співпрацю у сфері штучного інтелекту в ЄС, щоб підвищити його конкурентоспроможність і забезпечити довіру на основі цінностей ЄС.

Після публікації Європейської стратегії щодо штучного інтелекту в 2018 році та після широких консультацій із зацікавленими сторонами Група експертів високого рівня зі штучного інтелекту (HLEG) розробила Рекомендації щодо надійного штучного інтелекту в 2019 році та список для оцінювання надійності штучного інтелекту в 2020 році. В той же час, перший Узгоджений план щодо ШІ був опублікований у грудні 2018 року як спільне зобов’язання з країнами-членами.

Біла книга Комісії про штучний інтелект, опублікована в 2020 році, виклала чітке бачення штучного інтелекту в Європі: екосистема досконалості та довіри, що створює основу для сьогоднішньої політичної домовленості. Консультації з громадськістю щодо Білої книги про ШІ викликали широку залученість з усього світу. Біла книга супроводжувалася «Звітом про наслідки штучного інтелекту, «Інтернету речей» і робототехніки для безпеки та відповідальності». В ньому було зроблено висновок, що чинне законодавствопро безпеку продукції, зокрема Директива з машинного обладнання, містить ряд прогалин, що їх необхідно усунути.

Незалежні, засновані на фактах дослідження, проведені Спільним науково-дослідницьким центром (СНДЦ), відіграли основоположну роль у формуванні політики ЄС щодо ШІ та забезпеченні її ефективної реалізації. Завдяки ретельним дослідженням і аналізу СНДЦ підтримав розробку Закону про штучний інтелект, інформуючи про термінологію штучного інтелекту, класифікацію ризиків, технічні вимоги та сприяючи поточній розробці гармонізованих стандартів.

Для отримання додаткової інформації

Заява Президента фон дер Ляєн щодо політичної домовленості щодо Акту ЄС про штучний інтелект

Нові правила для штучного інтелекту – запитання та відповіді (незабаром буде оновлено)

Нові правила для штучного інтелекту – Інформаційний лист

Хіросімський процес щодо ШІ: Керівні принципи та Кодекс поведінки щодо штучного інтелекту

Узгоджений план щодо штучного інтелекту

Положення щодо машинобудівної продукції

Положення щодо відповідальності за штучний інтелект

Європейський центр алгоритмічної прозорості, Спільний науково-дослідницький центр

*Оновлено 12.10.2023

Цитата(и)

Штучний інтелект уже змінює наше повсякденне життя. І це лише початок. Розумне та широке використання ШІ обіцяє величезні переваги для нашої економіки та суспільства. Тому я дуже вітаю сьогоднішню політичну домовленість Європейського парламенту та Ради щодо Закону про штучний інтелект. Закон ЄС про штучний інтелект є першою всеосяжною правовою базою щодо штучного інтелекту в усьому світі. Отже, це історичний момент. Закон про ШІ переносить європейські цінності в нову еру. Завдяки зосередженню регулювання на ризиках, що можна визначити, сьогоднішня домовленість сприятиме відповідальним інноваціям у Європі. Гарантуючи безпеку та основні права людей і компаній, вона підтримуватиме розробку, розгортання та впровадження надійного ШІ в ЄС. Наш Закон про штучний інтелект зробить значний внесок у розробку глобальних правил і принципів для ШІ, орієнтованого на людину.

Урсула фон дер Ляєн, Президентка Європейської Комісії – 12.09.2023

Я щиро вітаю досягнення домовленості щодо Закону про штучний інтелект – першого всеосяжного закону, що стосується ризиків, пов’язаних із технологіями ШІ. ШІ є вже дійсно трансформаційним, і ми, європейці, повинні мати законний механізм захисту від найбільш згубних впливів ШІ. Наш підхід заснований на оцінці ризику та орієнтований на інновації. Ми лише прагнемо, щоб люди зберігали свої права та відстоювали їх в епоху цифрових технологій. Ми можемо зробити це не лише за допомогою законів, але й заохочуючи розробників технологій і співпрацюючи з ними, щоб вони застосовували орієнтований на людину підхід, коли розробляють і впроваджують технології ШІ.

Вєра Юрова, Віцепрезидентка з питань цінностей і прозорості – 12.09.2023

Я вітаю цю історичну домовленість. ЄС стає першим материком, де встановлено чіткі правила використання ШІ. Закон про штучний інтелект — це набагато більше, ніж збірник правил. Це стартовий майданчик для європейських стартапів і дослідників, щоб очолити глобальну гонку за надійним ШІ. Цей Закон не є кінцевою метою; це початок нової ери у відповідальному та інноваційному розвитку штучного інтелекту, що стимулює зростання та інновації в Європі.

Тьєррі Бретон, Комісар з питань внутрішнього ринку – 12.09.2023