EU AI Act pre malé firmy: čo musíte vedieť

Ak vo firme používate AI, či už chatbota, nástroj na prekladanie, alebo automatické hodnotenie uchádzačov, pravdepodobne sa vás týka európske nariadenie o umelej inteligencii, známe ako EU AI Act. Nie je to len záležitosť veľkých technologických gigantov. Pozrime sa, čo to znamená pre malú a strednú firmu.

Čo je EU AI Act

EU AI Act je prvé rozsiahle nariadenie o umelej inteligencii na svete. Platí od augusta 2024 a svoje povinnosti zavádza postupne. Nesnaží sa AI zakázať, ale určuje pravidlá podľa toho, aké riziko systém predstavuje pre ľudí.

Štyri úrovne rizika

• Neprijateľné riziko: zakázané praktiky, napríklad manipulatívna AI alebo sociálne skórovanie občanov. Zákaz platí od februára 2025.
• Vysoké riziko: AI v citlivých oblastiach, ako sú nábor zamestnancov, hodnotenie úverovej schopnosti, vzdelávanie alebo kritická infraštruktúra. Tu platia prísne požiadavky.
• Obmedzené riziko: systémy, pri ktorých musí byť človek informovaný, že komunikuje s AI, napríklad chatboty alebo obsah vytvorený AI.
• Minimálne riziko: väčšina bežných nástrojov, napríklad spam filtre. Tu sa neukladajú osobitné povinnosti.

Koho sa to týka

Nariadenie rozlišuje dve hlavné roly. Poskytovateľ je ten, kto AI systém vyvíja alebo uvádza na trh. Nasadzovateľ (používateľ) je firma, ktorá hotový systém používa vo svojej činnosti. Väčšina malých firiem je v roli nasadzovateľa, takže ich povinnosti sú miernejšie, ale existujú. Ak však AI vyvíjate pre klientov alebo upravujete cudzí model do vlastného produktu, môžete byť poskytovateľom.

Termíny, ktoré treba sledovať

Harmonogram sa v roku 2026 upravil. Podľa dostupných informácií sa povinnosti pre samostatné vysokorizikové systémy posunuli na december 2027 a pre systémy zabudované do regulovaných výrobkov na august 2028. Naopak, povinnosti týkajúce sa transparentnosti, napríklad označenie, že používateľ komunikuje s AI, majú platiť od augusta 2026. Zákaz niektorých praktík a povinnosť dbať na AI gramotnosť zamestnancov platia už od roku 2025.

Odklad vysokorizikových pravidiel neznamená, že sa môžete uvoľniť. Je to len viac času na prípravu.

Praktický kontrolný zoznam pre malé firmy

1. Urobte súpis AI nástrojov. Zistite, ktoré AI nástroje vo firme používate, aj tie, ktoré zamestnanci používajú sami.
2. Zaraďte ich do rizikových kategórií. Väčšina bude v nízkom riziku, ale pozor na nábor a hodnotenie ľudí.
3. Buďte transparentní. Ak zákazník komunikuje s chatbotom, povedzte mu to. Obsah vytvorený AI označte tam, kde to pravidlá vyžadujú.
4. Vzdelávajte ľudí. Zamestnanci, ktorí pracujú s AI, by mali rozumieť jej obmedzeniam.
5. Dokumentujte. Zapisujte si, na čo AI používate, kto za to zodpovedá a ako kontrolujete výsledky.
6. Skontrolujte dodávateľov. Overte si, že poskytovatelia nástrojov plnia svoje povinnosti.

Ako vám môže pomôcť konzultácia

Regulácia je komplikovaná a ľahko sa v nej stratíte. Pomôžeme vám zmapovať, kde AI vo firme používate, posúdiť riziká z technického pohľadu a navrhnúť praktické riešenia, aby ste mohli inovovať a zároveň zostať v súlade s pravidlami. Pri právnom výklade vám odporúčame spolupracovať s advokátom, my sa postaráme o technickú stránku.

Záver

EU AI Act nie je dôvod AI sa vyhýbať. Je to rámec, ktorý má z nej urobiť dôveryhodný nástroj. Ak chcete s prípravou začať, napíšte nám. Viac o našom poradenstve nájdete na stránkach IT konzultácie a AI a autonómni AI agenti.