Od kilku miesięcy, w czteroosobowym zespole badawczym, prowadzimy analizę narzędzi informatyki śledczej pod kątem skuteczności detekcji treści CSAM (Child Sexual Abuse Materials). Początkowo zakładaliśmy, że będzie to projekt o ograniczonym zakresie, jednak podczas przygotowywania prezentacji zorientowaliśmy się, że lista testowanych narzędzi liczy już 20 programów – i wciąż pozostaje otwarta.
Prace prowadzimy etapowo, ponieważ skala złożoności zagadnienia okazała się ogromna. Problemy napotykamy nie tylko na etapie testowania skuteczności, ale również przy samym wprowadzaniu próbek do narzędzi – każde z nich działa inaczej, ma inne ograniczenia techniczne i metodologiczne.
Choć automatyzacja procesów detekcji w świecie cyfrowej analizy śledczej jest konieczna i pożądana, to prawdziwym wyzwaniem pozostaje wdrożenie jej z pełną odpowiedzialnością – z poszanowaniem prawa, etyki i wiedzy eksperckiej.
Kluczowe pytania, na które narzędzia nie dają odpowiedzi:
➡️ Kto i na jakich materiałach trenował modele AI do detekcji CSAM?
➡️ Czy modele uczono zgodnie z polskim ustawodawstwem karnym i definicjami prawnymi?
➡️ Jaki wiek przyjęto jako granicę małoletniości podczas trenowania algorytmów?
➡️ Z jakich źródeł pochodziły materiały treningowe i jak były klasyfikowane?
Na te – fundamentalne – pytania nie znaleźliśmy dotąd odpowiedzi w dokumentacji żadnego z testowanych narzędzi.
Dodatkowo, już na tym etapie badań wiemy, że liczba przypadków typu false negative (brak detekcji treści CSAM mimo ich obecności) jest niepokojąco wysoka. To prowadzi nas do jednoznacznego wniosku:
Dopóki nie zostanie uporządkowana wiedza na temat skuteczności, przejrzystości i podstaw prawnych działania tych narzędzi – należy bardzo ostrożnie podchodzić do korzystania z nich w postępowaniach karnych.
Takie „pozorne przyspieszenie” pracy może prowadzić do poważnych błędów – zarówno analitycznych, jak i proceduralnych. Naszym celem jest nie tylko ocena skuteczności narzędzi, ale też wyznaczenie standardów ich odpowiedzialnego użycia w środowisku śledczym i sądowym.
Jednocześnie dziękujemy Tomaszowi Tatar z Mediarecovery za gościnę, konferencja przygotowana na najwyższym poziomie i będziemy się pojawiać u Ciebie w kolejnych edycjach spotkań 🫶