Po ukończeniu szkolenia uczestnicy będą potrafili:
• Zrozumieć architekturę prawną AI Act i jej bezpośredni wpływ na procedury Prawa Zamówień Publicznych (PZP)
• Dowiedzą się, czym są halucynacje AI i błędy poznawcze (bias) oraz jak wpływają one na rzetelność oceny ofert oraz wykonawców
• Poznają zasady odpowiedzialności "Dostawcy" (Provider) vs "Podmiotu Stosującego" (Deployer) - czyli kiedy Zamawiający staje się producentem oprogramowania
• Zrozumieją zjawisko Automation Bias (stronniczości automatyzacji) w pracy Komisji Przetargowej
• Poznają katalog praktyk zakazanych przez AI Act i dowie się, jakich systemów nie wolno zamawiać w sektorze publicznym
Jakie umiejętności zdobędzie uczestnik
• Będzie potrafił zidentyfikować, czy kupowany system lub narzędzie używane w przetargu należy do kategorii Wysokiego Ryzyka (High-Risk)
• Nauczy się projektować Opis Przedmiotu Zamówienia (OPZ) dla systemów AI, uwzględniając wymogi jakości danych i nadzoru ludzkiego
• Zdobędzie umiejętność tworzenia klauzul umownych zabezpieczających przed skutkami błędów AI (tzw. Silent AI Exclusions i odpowiedzialność cywilna)
• Będzie potrafił zastosować techniki weryfikacji wyników generowanych przez AI podczas badania rażąco niskiej ceny lub oceny podmiotowej wykonawcy
• Nauczy się przeprowadzać wstępną analizę ryzyka (FRIA - ocena skutków dla praw podstawowych) dla planowanych zakupów technologicznych
Szkolenie stanowi odpowiedź na rewolucję technologiczną i legislacyjną, jaką wprowadza unijne Rozporządzenie o Sztucznej Inteligencji (AI Act) w powiązaniu z procesem wydatkowania środków publicznych. Program łączy techniczną wiedzę o ryzykach AI (takich jak halucynacje, data poisoning, brak transparentności) z twardymi procedurami zamówień publicznych.
Pierwszy dzień koncentruje się na zrozumieniu "nowego ładu" - klasyfikacji ryzyk, zakazach oraz pułapkach technologicznych, które mogą podważyć uczciwą konkurencję.
Drugi dzień to warsztat praktyczny poświęcony dwóm aspektom: jak bezpiecznie KUPOWAĆ systemy AI (OPZ, umowy) oraz jak bezpiecznie STOSOWAĆ narzędzia AI do oceny ofert i weryfikacji wykonawców, aby uniknąć zarzutów przed KIO.
Szkolenie prowadzone jest przez eksperta łączącego kompetencje inżynierskie (metrologia, IT) z praktyką zamówień publicznych, co gwarantuje podejście oparte na realiach, a nie tylko teorii prawa.
Adresaci:
• Kierownicy i pracownicy Działów Zamówień Publicznych
• Członkowie Komisji Przetargowych korzystający lub planujący korzystać z narzędzi IT/AI
• Osoby odpowiedzialne za opisywanie przedmiotu zamówienia (Wydziały Merytoryczne/Informatyki)
• Radcowie prawni obsługujący jednostki sektora finansów publicznych
Szkolenie nie jest przeznaczone dla osób na początkowym etapie kariery w zamówieniach publicznych oraz w zakresie wykorzystania sztucznej inteligencji.
Poziom zaawansowania: - wymagana znajomość PZP, podstawowa wiedza z zakresu AI.
Formuła: Warsztatowa analiza ryzyka, studia przypadków (case study), analiza zapisów SWZ.
Uczestnicy otrzymają
• Autorską prezentację w formacie PDF
• Checklistę: "Czy moje zamówienie to system AI Wysokiego Ryzyka?"
• Wzory klauzul umownych dotyczących odpowiedzialności za działanie AI i jakości danych
• Wyciąg z kluczowych artykułów AI Act mających zastosowanie w PZP
Nie jest wymagane wcześniejsze przygotowanie, jednak warto mieć podstawową wiedzę o PZP.
Program szkolenia:
DZIEŃ 1: Architektura Ryzyka - AI Act w praktyce Zamawiającego
1. Nowy paradygmat: AI Act a Prawo Zamówień Publicznych
• Definicja systemu AI (Art. 3) - co jest AI, a co zwykłym algorytmem w Excelu?
• Rola Zamawiającego: Kiedy jesteś „Podmiotem Stosującym" (Deployer), a kiedy stajesz się „Dostawcą" (Provider) i przejmujesz pełną odpowiedzialność (Art. 25 - Efekt Kameleona)
• Systemy Zakazane (Unacceptable Risk) - czego nie wolno wpisać do Planu Zamówień? (np. rozpoznawanie emocji, scoring społeczny)
2. Ciemna strona algorytmów - Ryzyka technologiczne w przetargach
• Halucynacje AI: Dlaczego modele językowe kłamią pewnie i jak to wpływa na generowanie dokumentacji przetargowej?
• Bias (Uprzedzenia): Jak dane treningowe mogą dyskryminować wykonawców lub oferty?
• Cyberbezpieczeństwo: Data Poisoning i Model Evasion - jak wykonawcy mogą oszukać system oceniający
3. Systemy Wysokiego Ryzyka (High-Risk) w sektorze publicznym
• Załącznik III AI Act: Systemy do rekrutacji, oceny zdolności kredytowej, oceny uprawnień do świadczeń
• Obowiązek rejestracji w bazie UE i przeprowadzenia oceny skutków dla praw podstawowych (FRIA)
• Studium przypadku: System oceniający wiarygodność wykonawcy - czy to High-Risk?
DZIEŃ 2: Zastosowanie AI w procedurze i ocena ofert - Warsztat praktyczny
1. Planowanie i Opis Przedmiotu Zamówienia (OPZ) na systemy AI
• Jak opisać wymagania dla „Czarnej Skrzynki" (Black Box)?
• Wymogi dotyczące jakości danych, logów i dokumentacji technicznej
• Klauzule „No substantial modification" - zabezpieczenie przed niekontrolowaną zmianą działania systemu po zakupie
2. AI jako narzędzie wspierające Komisję Przetargową - Szanse i Zagrożenia
• Wykorzystanie AI do analizy SWZ i pytań wykonawców
• Automatyzacja badania ofert: Weryfikacja JEDZ, KRS, wyliczeń cenowych
• Ryzyko Automation Bias (Art. 14): Dlaczego człowiek musi ostatecznie zatwierdzić decyzję AI?
• Odpowiedzialność kierownika zamawiającego za błędy (halucynacje) narzędzia wspierającego
3. Ocena ofert i Wykonawców przy użyciu algorytmów
• Kryteria oceny ofert oparte o algorytmy - jak zapewnić ich mierzalność i obiektywizm?
• Profilowanie wykonawców a RODO i AI Act - granice weryfikacji rzetelności
• Czy AI może odrzucić ofertę z rażąco niską ceną? Studium wykonalności i ryzyka odwołań do KIO
4. Umowa i zabezpieczenie interesu Zamawiającego
• Prawa autorskie do „twórczości" AI (wyrok dot. Thaler v. Perlmutter a prawo UE)
• Odpowiedzialność za szkody wyrządzone przez AI (Dyrektywa PLD)
• Klauzule exit plan i vendor lock-in - jak nie uzależnić się od jednego modelu AI
5. Panel dyskusyjny i Q&A
