Nariadenie (EÚ) 2024/1689

Časté otázky

Je ChatGPT alebo podobný nástroj sám osebe „vysokorizikový"?+

Nie automaticky. Všeobecné AI modely (GPAI) — napríklad veľké jazykové modely ako ChatGPT — majú vlastný, samostatný súbor povinností (čl. 51–56): transparentnosť, rešpektovanie autorských práv, a pri obzvlášť výkonných modeloch aj riadenie systémových rizík. Nálepka „vysokorizikové" sa viaže na konkrétne použitie, nie na samotný model — napríklad ak niekto na takomto modeli postaví nástroj na hodnotenie uchádzačov o zamestnanie, vysokorizikovým sa stáva práve ten konkrétny nástroj.

Počíta sa aj interný nástroj, ktorý používajú len naši zamestnanci?+

Áno. AI Act sa vzťahuje aj na interné systémy — nezáleží na tom, že ich okrem vašej firmy nikto nevidí. Ak systém spadá do vysokorizikovej oblasti (napríklad hodnotenie výkonu zamestnancov), povinnosti platia rovnako, ako keby ste ho predávali navonok.

Aký je rozdiel medzi „AI systémom" a „GPAI modelom"?+

AI systém je konkrétna aplikácia s určitým účelom — napríklad nástroj na skríning životopisov. GPAI model (general-purpose AI model, teda model na všeobecné použitie) je naproti tomu všeobecný model, napríklad veľký jazykový model, ktorý môže byť „motorom" mnohých rôznych AI systémov naraz. Preto má GPAI model vlastný, samostatný súbor povinností — nezávislý od toho, na čo všetko ho niekto neskôr použije.

Platí AI Act aj pre firmy mimo EÚ?+

Áno — pokiaľ výstupy vášho AI systému používajú osoby v EÚ, AI Act sa na vás vzťahuje bez ohľadu na to, kde sídli vaša firma. Funguje to podobne ako pri GDPR: rozhoduje miesto použitia, nie miesto sídla.

Čo ak sa účel alebo funkcie systému zmenia?+

Riziková kategória nie je fixná natrvalo — mení sa spolu s účelom a funkciami systému. Odporúčame urobiť nové posúdenie zakaždým, keď sa účel alebo funkcionalita systému podstatne zmenia.

Časté otázky

Je ChatGPT nebo podobný nástroj sám o sobě „vysoce rizikový"?+

Ne automaticky. Obecné AI modely (GPAI) — například velké jazykové modely jako ChatGPT — mají vlastní, samostatný soubor povinností (čl. 51–56): transparentnost, respektování autorských práv, a u obzvlášť výkonných modelů i řízení systémových rizik. Nálepka „vysoce rizikové" se váže na konkrétní použití, ne na samotný model — například pokud někdo na takovém modelu postaví nástroj na hodnocení uchazečů o zaměstnání, vysoce rizikovým se stává právě ten konkrétní nástroj.

Počítá se i interní nástroj, který používají jen naši zaměstnanci?+

Ano. AI Act se vztahuje i na interní systémy — nezáleží na tom, že je kromě vaší firmy nikdo nevidí. Pokud systém spadá do vysoce rizikové oblasti (například hodnocení výkonu zaměstnanců), povinnosti platí stejně, jako byste ho prodávali navenek.

Jaký je rozdíl mezi „AI systémem" a „GPAI modelem"?+

AI systém je konkrétní aplikace s určitým účelem — například nástroj na screening životopisů. GPAI model (general-purpose AI model, tedy model pro obecné použití) je naproti tomu obecný model, například velký jazykový model, který může být „motorem" mnoha různých AI systémů najednou. Proto má GPAI model vlastní, samostatný soubor povinností — nezávislý na tom, k čemu všemu ho někdo později použije.

Platí AI Act i pro firmy mimo EU?+

Ano — pokud výstupy vašeho AI systému používají osoby v EU, AI Act se na vás vztahuje bez ohledu na to, kde sídlí vaše firma. Funguje to podobně jako u GDPR: rozhoduje místo použití, ne místo sídla.

Co když se účel nebo funkce systému změní?+

Riziková kategorie není fixní natrvalo — mění se spolu s účelem a funkcemi systému. Doporučujeme provést nové posouzení pokaždé, když se účel nebo funkcionalita systému podstatně změní.

Frequently asked questions

Is ChatGPT (or a similar tool) automatically "high-risk"?+

Not automatically. General-purpose AI models (GPAI) — like large language models such as ChatGPT — have their own separate set of obligations (Art. 51–56): transparency, respecting copyright, and for especially capable models, managing systemic risk. The "high-risk" label attaches to a specific use, not the model itself — for example, if someone builds a job-applicant screening tool on top of such a model, it's that specific tool that becomes high-risk.

Does an internal tool that only our own staff uses count?+

Yes. The AI Act applies to internal systems too — it doesn't matter that no one outside your company sees it. If the system falls into a high-risk area (e.g. evaluating staff performance), the same obligations apply as if you were selling it externally.

What's the difference between an "AI system" and a "GPAI model"?+

An AI system is a specific application built for a particular purpose — for example, a CV-screening tool. A GPAI model (general-purpose AI model) is a general model, such as a large language model, that can power many different AI systems at once. That's why a GPAI model has its own separate set of obligations, independent of whatever it's later used for.

Does the AI Act apply to companies outside the EU?+

Yes — if the output of your AI system is used by people in the EU, the AI Act applies to you regardless of where your company is based. It works much like the GDPR: what matters is where it's used, not where you're headquartered.

What if the system's purpose or functionality changes?+

Its risk category isn't fixed forever — it changes along with the system's purpose and functionality. We recommend re-running the assessment whenever the system's purpose or functionality changes materially.