Uczniowie usłyszeli wyrok za przerobienie zdjęcia swojej koleżanki za pomocą narzędzi AI i opublikowanie go w internecie. Fotografia przedstawiała fikcyjną scenę, na której młoda dziewczyna wystąpiła nago w intymnej scenie. Jeden z uczniów przyznał, że „był wstrząśnięty” tym, co się wydarzyło.
Niestety, jak każda technologia, AI jest także wykorzystywana w złym celu. Ludzie tworzą przy jej pomocy rzeczy, które łamią prawo i naruszają prywatność innych osób. Zdarza się, że AI jest używane do generowania obrazów czy treści, które są szkodliwe, wprowadzają w błąd lub szkalują czyjeś dobre imię. Właśnie tak było w przypadku pewnej uczennicy, której fikcyjne, wulgarne zdjęcie obiegło jakiś czas temu sieć.
Postępowanie przeciw dwóm uczniom szkoły średniej zostało wszczęte w związku z art. 202 Kodeksu Karnego. Chodzi o rozpowszechnianie pornografii:
„Kto produkuje, rozpowszechnia, prezentuje, przechowuje lub posiada treści pornograficzne przedstawiające wytworzony lub przetworzony wizerunek małoletniego uczestniczącego w czynności seksualnej, podlega grzywnie, karze ograniczenia wolności albo pozbawienia wolności do lat dwóch”.