Opis kwalifikacja
Kwalifikacja obejmuje rozpoznawanie typów narzędzi AI oraz ocenę, co dzieje się z wprowadzanymi danymi: jak są przetwarzane, przechowywane i wykorzystywane. Osoba klasyfikuje dane osobowe, tajemnice przedsiębiorstwa i informacje chronione, minimalizuje zakres zapytań, anonimizuje treść oraz korzysta z zatwierdzonych narzędzi i kont służbowych.
Drugi obszar dotyczy ataków wykorzystujących AI: spersonalizowanego phishingu, deepfake głosowego i wideo oraz podszywania się pod przełożonego, kontrahenta lub członka rodziny. Posiadacz weryfikuje tożsamość niezależnym kanałem, zna zasady autoryzacji dyspozycji i rozumie, że brak widocznych artefaktów nie potwierdza autentyczności materiału.
Zakres obejmuje weryfikowanie wyników AI, wykrywanie nieistniejących źródeł, przepisów, podejrzanych linków i fragmentów kodu oraz reagowanie na ukryte instrukcje w dokumentach. Osoba ogranicza uprawnienia asystentów zintegrowanych z pocztą i plikami, przerywa podejrzane działanie, zabezpiecza materiał, zgłasza incydent i nie rozpowszechnia syntetycznych treści.
Dla kogo jest ta kwalifikacja?
Kwalifikacja jest przeznaczona dla dorosłych korzystających z asystentów generatywnych, funkcji AI w pakietach biurowych, komunikatorach i usługach chmurowych. Jest szczególnie przydatna pracownikom administracji, JST, NGO i MŚP, osobom przetwarzającym dane służbowe oraz użytkownikom zatwierdzającym komunikaty, dokumenty, płatności lub wyniki wygenerowane przez AI.
Co potwierdza kwalifikacja?
Certyfikat potwierdza umiejętność ochrony danych podczas pracy z AI, anonimizacji zapytań i rozpoznawania niedozwolonego użycia narzędzi. Dokumentuje także reakcję na phishing generatywny, deepfake i podszywanie się, niezależną weryfikację rozmówcy, ocenę wiarygodności wyników generatywnych, ograniczanie uprawnień zintegrowanych asystentów oraz prawidłową ścieżkę zgłoszenia incydentu. Zakres kwalifikacji mieści się w obszarze cyberbezpieczeństwa KSC.
Jak wygląda walidacja?
Walidacja odbywa się w formie nadzorowanego testu online z losowaniem pytań. Zadania wykorzystują zrzuty ekranów, korespondencję oraz próbki audio i wideo, także w dostępnej formie alternatywnej. Kandydat klasyfikuje dane, anonimizuje zapytania, rozpoznaje shadow AI, ocenia podejrzane przekazy, porządkuje niezależną weryfikację tożsamości, sprawdza wyniki generatywne, reaguje na ukryte instrukcje i wskazuje właściwe kanały zgłoszenia incydentu.
Metody walidacji: Test online – bank pytań, losowanie i ocena automatyczna; zadania na materiale audio, wideo, zrzutach ekranów i korespondencji
Najważniejsze efekty uczenia się
- Klasyfikuje informacje przed wprowadzeniem ich do narzędzia AI
- Minimalizuje i anonimizuje treść zapytań zawierających dane chronione
- Rozpoznaje phishing generatywny oraz deepfake głosowy i wideo
- Weryfikuje tożsamość rozmówcy niezależnym kanałem
- Sprawdza wyniki AI i reaguje na incydenty związane z narzędziami generatywnymi
Certyfikat ICVC
Certyfikat ICVC; kwalifikacja z dziedziny cyberbezpieczeństwa [KSC]
Informacje o kwalifikacja ICVC
Treść strony przedstawia zakres, efekty uczenia się i walidację kwalifikacji ICVC Bezpieczna praca z narzędziami sztucznej inteligencji [KSC] na podstawie danych zapisanych w rejestrze ICVC.
ICVC Certyfikacja odpowiada za organizację procesu walidacji zgodnie z zakresem i metodami wskazanymi dla tej kwalifikacji.
Test online – bank pytań, losowanie i ocena automatyczna; zadania na materiale audio, wideo, zrzutach ekranów i korespondencji
Certyfikat ICVC; kwalifikacja z dziedziny cyberbezpieczeństwa [KSC]
Szczegóły organizacyjne, terminy i dokumenty można potwierdzić bezpośrednio w ICVC.
Najważniejsze efekty uczenia się
- Klasyfikuje dane przed ich wprowadzeniem do narzędzia AI i stosuje minimalizację oraz anonimizację.
- Rozpoznaje korzystanie z niezatwierdzonych narzędzi i prywatnych kont do zadań służbowych.
- Identyfikuje phishing generatywny oraz deepfake głosowy i wideo.
- Weryfikuje rozmówcę niezależnym kanałem oraz sprawdza wyniki, źródła, linki i kod generowany przez AI.
- Rozpoznaje manipulacje treścią poleceń i prawidłowo zabezpiecza oraz zgłasza incydent związany z AI.
Ważna informacja: Zakres dotyczy cyberbezpieczeństwa użycia AI. Nie obejmuje odrębnej certyfikacji z etyki AI, AI Act ani organizacyjnego ładu sztucznej inteligencji.
Najczęściej zadawane pytania
Jakich danych nie należy wprowadzać do publicznych narzędzi AI?
Bez odpowiedniej podstawy i zabezpieczeń nie należy wprowadzać danych osobowych, tajemnicy przedsiębiorstwa, informacji prawnie chronionych ani innych treści służbowych objętych ograniczeniami organizacji. Kandydat rozstrzyga, które informacje trzeba usunąć lub zanonimizować, a których nie wolno przekazać do danego narzędzia.
Czym jest shadow AI w organizacji?
Shadow AI to używanie niezatwierdzonych narzędzi lub prywatnych kont do realizacji zadań służbowych, poza kontrolą organizacji. Może prowadzić do niejawnego przesyłania danych, braku właściwych umów i niemożności zarządzania retencją informacji. Kwalifikacja obejmuje rozpoznawanie takich praktyk i wybór zgodnego sposobu pracy.
Jak weryfikować deepfake lub pilne polecenie przelewu?
Nie należy opierać decyzji wyłącznie na wyglądzie nagrania lub jakości głosu. Tożsamość trzeba potwierdzić niezależnym kanałem, na przykład oddzwonić na znany numer, skontaktować się przez drugi zatwierdzony kanał albo zastosować organizacyjną procedurę autoryzacji płatności. Brak widocznych artefaktów nie oznacza autentyczności.
Czy kwalifikacja obejmuje sprawdzanie odpowiedzi generowanych przez AI?
Tak. Kandydat ocenia wiarygodność źródeł, przepisów, danych, linków i fragmentów kodu podanych przez narzędzie. Rozpoznaje konfabulacje oraz podejrzane instrukcje ukryte w dokumentach lub stronach. Potrafi przerwać działanie, ograniczyć uprawnienia asystenta, zabezpieczyć materiał i zgłosić incydent właściwej osobie lub instytucji.
Chcesz potwierdzić tę kwalifikacja?
Skontaktuj się z ICVC, aby uzyskać informacje o walidacji, certyfikacji i dostępnych terminach.
Skontaktuj się z ICVC