Konekte ak nou

Intelijans atifisyel

Lwa entèlijans atifisyèl: Konsèy ak Palman an fè yon akò sou premye règ yo pou AI nan mond lan

SHARE:

pibliye

on

Apre twa jou 'maraton' chita pale, prezidans Konsèy la ak negosyatè Palman an Ewopeyen an te rive jwenn yon akò pwovizwa sou pwopozisyon an sou règ amonize sou entèlijans atifisyèl (AI), sa yo rele lwa entèlijans atifisyèl. Règleman bouyon an gen pou objaktif pou asire ke sistèm AI yo mete sou mache Ewopeyen an epi yo itilize nan Inyon Ewopeyen an san danje epi respekte dwa fondamantal ak valè Inyon Ewopeyen an. Pwopozisyon bòn tè sa a gen pou objaktif tou pou ankouraje envestisman ak inovasyon sou AI an Ewòp.

Carme Artigas, Sekretè Deta Panyòl pou dijitalizasyon ak entèlijans atifisyèl

Sa a se yon siksè istorik, ak yon etap enpòtan nan direksyon pou lavni an! Akò jodi a abòde efektivman yon defi mondyal nan yon anviwonman teknolojik k ap evolye rapid sou yon domèn kle pou lavni sosyete nou yo ak ekonomi nou yo. Ak nan efò sa a, nou te jere kenbe yon balans trè delika: ranfòse inovasyon ak absòpsyon nan entèlijans atifisyèl atravè Ewòp pandan y ap respekte totalman dwa fondamantal yo nan sitwayen nou yo. Carme Artigas, sekretè deta Panyòl pou dijitalizasyon ak entèlijans atifisyèl.

Zak AI a se yon bato inisyativ lejislatif ak potansyèl pou ankouraje devlopman ak absòpsyon AI ki an sekirite ak konfyans atravè mache sèl Inyon Ewopeyen an pa aktè prive ak piblik. Lide prensipal la se reglemante AI ki baze sou kapasite lèt la pou l ka koze domaj nan sosyete a apre a 'ki baze sou risk' apwòch: pi gwo risk la, se règ yo sevè. Kòm premye pwopozisyon lejislatif nan kalite li yo nan mond lan, li ka mete yon estanda mondyal pou règleman AI nan lòt jiridiksyon, menm jan GDPR a te fè, kidonk ankouraje apwòch Ewopeyen an nan règleman teknoloji nan etap mondyal la.

Eleman prensipal yo nan akò pwovizwa a

Konpare ak pwopozisyon inisyal Komisyon an, nouvo eleman prensipal yo nan akò pwovizwa a ka rezime jan sa a:

  • règ sou modèl AI jeneral ki gen gwo enpak ki ka lakòz risk sistemik nan tan kap vini an, osi byen ke sou gwo risk Sistèm AI
  • yon sistèm revize nan gouvènans ak kèk pouvwa ranfòsman nan nivo Inyon Ewopeyen
  • ekstansyon lis la nan entèdiksyon men ak posiblite pou itilize idantifikasyon byometrik aleka pa otorite ki fè respekte lalwa nan espas piblik, sijè a pwoteksyon
  • pi bon pwoteksyon dwa atravè obligasyon pou deplwayè sistèm AI ki gen gwo risk pou yo fè a evalyasyon enpak sou dwa fondamantal yo anvan ou mete yon sistèm AI an itilize.

An tèm pi konkrè, akò pwovizwa a kouvri aspè sa yo:

Definisyon ak dimansyon

Pou asire ke la definisyon nan yon sistèm AI bay kritè ase klè pou distenge AI soti nan sistèm lojisyèl ki pi senp, akò a konpwomi aliyen definisyon an ak apwòch la pwopoze pa OECD la.

Akò pwovizwa a klarifye tou ke règleman an pa aplike nan domèn andeyò sijè ki abòde lan lwa Inyon Ewopeyen an epi yo pa ta dwe, nan okenn ka, afekte konpetans eta manm yo nan. sekirite nasyonal oswa nenpòt antite ki reskonsab travay nan domèn sa a. Anplis de sa, lwa AI a pa pral aplike nan sistèm ki itilize sèlman pou militè or defans rezon. Menm jan an tou, akò a bay ke règleman an pa ta aplike nan sistèm AI yo itilize pou objektif la sèlman nan rechèch ak inovasyon, oswa pou moun ki itilize AI pou rezon ki pa pwofesyonèl.

Piblisite

Klasifikasyon sistèm AI kòm pratik AI ki gen gwo risk ak entèdi

Akò konpwomi a bay pou yon kouch pwoteksyon orizontal, enkli yon klasifikasyon ki gen gwo risk, pou asire ke sistèm AI ki pa gen anpil chans lakòz vyolasyon dwa fondamantal grav oswa lòt risk enpòtan yo pa kaptire. Sistèm AI prezante sèlman risk limite ta dwe sijè a trè limyè obligasyon transparans, pou egzanp divilge ke kontni an te pwodwi AI pou itilizatè yo ka pran desizyon enfòme sou plis itilizasyon.

Nan yon pakèt domèn gwo risk Sistèm AI ta dwe otorize, men sijè a yon seri kondisyon ak obligasyon pou jwenn aksè nan mache Inyon Ewopeyen an. Kondisyon sa yo te klarifye ak ajiste pa ko-lejislatè yo nan yon fason ke yo plis teknikman posib ak mwens lou pou moun ki gen enterè yo konfòme yo avèk yo, pou egzanp konsènan kalite done yo, oswa an relasyon ak dokiman teknik ki ta dwe trase pa SMEs yo demontre ke sistèm AI ki gen gwo risk konfòme yo ak kondisyon yo.

Depi sistèm AI yo devlope ak distribye atravè chèn valè konplèks, akò konpwomi a gen ladan chanjman ki klarifye alokasyon responsablite yo ak wòl divès aktè yo nan chèn sa yo, an patikilye founisè ak itilizatè sistèm AI. Li klarifye tou relasyon ki genyen ant responsablite anba Lwa AI ak responsablite ki deja egziste anba lòt lejislasyon, tankou pwoteksyon done ki enpòtan Inyon Ewopeyen an oswa lejislasyon sektoryèl.

Pou kèk itilizasyon AI, yo konsidere risk akseptab epi, Se poutèt sa, sistèm sa yo pral entèdi nan Inyon Ewopeyen an. Akò pwovizwa a entèdi, pou egzanp, mantal manipilasyon konpòtman, ki pa vize a bale nan imaj feminen ki soti nan entènèt la oswa pye CCTV, rekonesans emosyon nan espas travay la ak enstitisyon edikasyon, nòt sosyal, kategorize byometrik pou dedwi done sansib, tankou oryantasyon seksyèl oswa kwayans relijye, ak kèk ka nan lapolis prediksyon pou moun.

Eksepsyon ki fè respekte lalwa

Lè ou konsidere spesifik yo nan otorite ki fè respekte lalwa ak bezwen pou prezève kapasite yo pou yo sèvi ak AI nan travay enpòtan yo, yo te dakò plizyè chanjman nan pwopozisyon Komisyon an ki gen rapò ak itilizasyon sistèm AI pou fè respekte lalwa. Sijè a apwopriye pwoteksyon, chanjman sa yo fèt pou reflete nesesite pou respekte konfidansyalite done operasyonèl sansib an relasyon ak aktivite yo. Pa egzanp, yo te prezante yon pwosedi ijans ki pèmèt ajans ki fè respekte lalwa yo deplwaye yon zouti AI ki gen gwo risk ki pa t pase evalyasyon konfòmite pwosedi an ka ta gen ijans. Sepandan, yon mekanis espesifik te tou prezante pou asire sa dwa fondamantal yo pral ase pwoteje kont nenpòt move itilizasyon potansyèl nan sistèm AI.

Anplis, konsènan itilizasyon an tan reyèl idantifikasyon byometrik aleka sistèm nan espas piblikman aksesib, akò pwovizwa a klarifye objektif yo kote itilizasyon sa a se entèdi nesesè pou fè respekte lalwa ak pou ki otorite ki fè respekte lalwa yo ta dwe eksepsyonèlman pèmèt yo sèvi ak sistèm sa yo. Akò a konpwomi bay pou pwoteksyon adisyonèl epi li limite eksepsyon sa yo a ka viktim sèten krim, prevansyon menas otantik, prezan oswa previzib, tankou atak teworis, ak rechèch pou moun yo sispèk nan krim ki pi grav yo.

Sistèm AI jeneral ak modèl fondasyon

Nouvo dispozisyon yo te ajoute pou pran an kont sitiyasyon kote sistèm AI ka itilize pou plizyè rezon diferan (objektif jeneral AI), ak kote teknoloji AI jeneral-bi answit entegre nan yon lòt sistèm ki gen gwo risk. Akò pwovizwa a tou adrese ka espesifik sistèm AI jeneral (GPAI).

Règ espesifik yo te dakò tou pou modèl fondasyon, gwo sistèm ki kapab fè konpetans nan yon pakèt travay diferan, tankou jenere videyo, tèks, imaj, konvèsasyon nan lang lateral, informatique, oswa jenere kòd òdinatè. Akò pwovizwa a bay ke modèl fondasyon yo dwe konfòme yo ak espesifik obligasyon transparans anvan yo mete yo sou mache a. Yon rejim pi sevè te prezante pou 'segondè enpak' modèl fondasyon. Sa yo se modèl fondasyon ki fòme ak gwo kantite done ak konpleksite avanse, kapasite, ak pèfòmans byen pi wo pase mwayèn, ki ka gaye risk sistemik sou chèn valè a.

Yon nouvo achitekti gouvènans

Apre nouvo règ yo sou modèl GPAI ak bezwen evidan pou ranfòsman yo nan nivo Inyon Ewopeyen, an AI Biwo nan Komisyon an mete kanpe pou sipèvize modèl AI ki pi avanse sa yo, kontribye nan ankouraje estanda ak pratik tès yo, ak aplike règ yo komen nan tout eta manm yo. A panèl syantifik ekspè endepandan pral konseye Biwo AI a sou modèl GPAI, lè li kontribiye nan devlopman metodoloji pou evalye kapasite modèl fondasyon yo, bay konsèy sou deziyasyon an ak aparisyon modèl fondasyon gwo enpak, ak kontwole risk sekirite materyèl posib ki gen rapò ak modèl fondasyon.

Jounal AI Komisyon Konsèy, ki ta gen ladann reprezantan eta manm yo, yo pral rete kòm yon platfòm kowòdinasyon ak yon kò konsiltatif nan Komisyon an epi yo pral bay Eta Manb yo yon wòl enpòtan sou aplikasyon an nan règleman an, ki gen ladan konsepsyon an nan kòd pratik pou modèl fondasyon. Finalman, yon fowòm konsiltatif pou moun ki gen enterè yo, tankou reprezantan endistri yo, SMEs, start-ups, sosyete sivil la, ak inivèsite, yo pral mete sou pye pou bay ekspètiz teknik AI Board la.

Sanksyon

Amann pou vyolasyon lwa AI a te fikse kòm yon pousantaj nan woulman anyèl konpayi ki te ofiske a nan ane finansye anvan an oswa yon kantite lajan predetèmine, kèlkeswa sa ki pi wo. Sa a ta dwe € 35 milyon oswa 7% pou vyolasyon aplikasyon AI entèdi yo, € 15 milyon oswa 3% pou vyolasyon obligasyon AI ak € 7,5 milyon oswa 1,5% pou bay enfòmasyon ki pa kòrèk. Sepandan, akò pwovizwa a prevwa bouchon plis pwopòsyonèl sou amann administratif pou SMEs ak start-ups nan ka ta gen vyolasyon dispozisyon ki nan AI a.

Akò konpwomi a tou fè klè ke yon moun natirèl oswa legal ka fè yon plent bay moun ki enpòtan yo otorite siveyans mache konsènan non-konfòmite ak zak AI a epi yo ka espere ke yon plent sa yo pral okipe an liy ak pwosedi yo devwe nan otorite sa a.

Transparans ak pwoteksyon dwa fondamantal yo

Akò pwovizwa a prevwa a evalyasyon enpak sou dwa fondamantal yo anvan deplwayè li yo mete yon sistèm AI ki gen gwo risk sou mache a. Akò pwovizwa a tou prevwa pou ogmante transparans konsènan itilizasyon sistèm AI ki gen gwo risk. Miyò, kèk dispozisyon nan pwopozisyon Komisyon an te amande pou endike ke sèten itilizatè nan yon sistèm AI ki gen gwo risk ki se antite piblik yo pral oblije tou enskri nan baz done Inyon Ewopeyen pou sistèm AI ki gen gwo risk. Anplis, dispozisyon ki fèk ajoute mete aksan sou yon obligasyon pou itilizatè yon sistèm rekonesans emosyon pou enfòme moun natirèl lè yo te ekspoze a yon sistèm konsa.

Mezi pou sipòte inovasyon

Nan lide pou kreye yon kad legal ki pi zanmitay inovasyon ak pou ankouraje aprantisaj regilasyon ki baze sou prèv, dispozisyon ki konsène mezi pou sipòte inovasyon yo te modifye anpil konpare ak pwopozisyon Komisyon an.

Miyò, li te klarifye ke AI sandbox regilasyon, ki sipoze etabli yon anviwònman kontwole pou devlopman, tès ak validation sistèm inovatè AI, ta dwe pèmèt tou tès sistèm AI inovatè nan kondisyon mond reyèl la. Anplis de sa, yo te ajoute nouvo dispozisyon ki pèmèt tès nan sistèm AI nan kondisyon mond reyèl la, nan kondisyon espesifik ak pwoteksyon. Pou soulaje fado administratif pou konpayi ki pi piti yo, akò pwovizwa a gen ladann yon lis aksyon yo dwe antreprann pou sipòte operatè sa yo epi li prevwa kèk derogasyon limite ak byen presize.

Antre nan fòs

Akò pwovizwa a bay lwa AI a ta dwe aplike de ane apre li antre an fòs, ak kèk eksepsyon pou dispozisyon espesifik.

Pwochen etap

Apre akò pwovizwa jodi a, travay ap kontinye nan nivo teknik nan semèn kap vini yo pou finalize detay nouvo règleman an. Prezidans lan pral soumèt tèks konpwomi a bay reprezantan eta manm yo (Coreper) pou andòsman yon fwa travay sa a te fini.

Tèks la tout antye ap bezwen konfime pa tou de enstitisyon yo epi sibi revizyon legal-lengwistik anvan adopsyon fòmèl pa ko-lejislatè yo.

Jan nou koumanse enfòmasyon

Pwopozisyon Komisyon an, ki te prezante nan mwa avril 2021, se yon eleman kle nan politik Inyon Ewopeyen an pou ankouraje devlopman ak absòpsyon atravè mache sèl la nan AI ki an sekirite ak legal ki respekte dwa fondamantal yo.

Pwopozisyon an swiv yon apwòch ki baze sou risk epi li etabli yon kad legal inifòm orizontal pou AI ki vize asire sètitid legal. Bouyon règleman an gen pou objaktif pou ankouraje envestisman ak inovasyon nan AI, amelyore gouvènans ak ranfòsman efikas nan lwa ki egziste deja sou dwa fondamantal ak sekirite, ak fasilite devlopman nan yon mache sèl pou aplikasyon AI. Li ale men nan men ak lòt inisyativ, ki gen ladan plan an kowòdone sou entèlijans atifisyèl ki gen pou objaktif pou akselere envestisman nan AI an Ewòp. Nan dat 6 desanm 2022, Konsèy la te rive jwenn yon akò pou yon apwòch jeneral (manda negosyasyon) sou dosye sa a epi li te antre nan yon chita pale entè-enstitisyonèl ak Palman an Ewopeyen an ("trilog") nan mitan mwa jen 2023.

Pataje atik sa a:

EU Reporter pibliye atik ki soti nan yon varyete sous deyò ki eksprime yon pakèt pwen de vi. Pozisyon yo pran nan atik sa yo pa nesesèman sa yo nan EU Reporter.

Tendans