Ataki na AI, środki neutralizujące i strategie obronne. Przewodnik dla specjalistów ds. cyberbezpieczeństwa

Wraz z rozwojem rewolucyjnych możliwości modeli AI pojawiają się nowe zagrożenia. Może to być na przykład manipulowanie działaniem sztucznej inteligencji, by celowo doprowadzić do błędnych decyzji. Tak właśnie prowadzi się ataki adwersarialne. Konsekwencje takich manipulacji, jak ró,wnież innych, mogą być bardzo poważne. Jednak zrozumienie ich istoty i wdrożenie adekwatnych zabezpieczeń stanowi ogromne wyzwanie.

Tę książkę docenią specjaliści do spraw cyberbezpieczeństwa, któ,rzy chcą zdobyć umiejętności zabezpieczania systemó,w AI. Znajdą w niej uporządkowaną prezentację wynikó,w badań i najnowszych standardó,w branżowych, z uwzględnieniem klasyfikacji: MITRE, NIST i OWASP. W przewodniku omó,wiono strategię zabezpieczania AI już na etapie projektowania ... z wykorzystaniem modelowania zagrożeń, przy czym skoncentrowano się na integracji MLSecOps i LLMOps z systemami bezpieczeństwa przedsiębiorstwa. Dodatkowo przedstawiono przykłady wdrażania integracji ciągłej, strategii i narzędzi MLOps, a także mechanizmó,w kontroli bezpieczeństwa. Zaproponowano ponadto bazujący na klasycznych filarach NIST plan wzmacniania bezpieczeństwa AI w przedsiębiorstwie.

Ciekawsze zagadnienia:

• zatruwanie danych, omijanie zabezpieczeń i naruszanie prywatności
• użycie sieci GAN do przeprowadzania atakó,w i generowania deepfake',ó,w
• nowe zagrożenia bezpieczeństwa LLM, w tym wstrzykiwanie promptó,w i ekstrakcja danych
• zatruwanie LLM metodami: RAG, osadzeń i dostrajania
• nowe zagrożenia związane z łańcuchem dostaw i modelami LLM o otwartym dostępie
• wdrażanie operacji MLSecOps z integracją ciągłą MLOps i SBOM

Podejmij wyzwanie: ochroń AI przed nadużyciami!