AI Act
AI Act wprowadza obowiązek oznaczania treści generowanych przez sztuczną inteligencję. Jeśli ktoś uważa, że to tylko formalność, to jest w błędzie. To zmiana sposobu, w jaki będziemy patrzeć na tekst w internecie.
Firmy zaczynają umieszczać w tekście generowanym przez swoje modele ukryte informacje. Anthropic zapowiedział, że ich modele będą zostawiać w tekście statystyczne wskazówki, które pozwolą rozpoznać, że dana treść została wygenerowana przez konkretną wersję ich systemu [1]. Im dłuższy tekst, tym więcej takich takich słów-klucz, które będą czytelne dla modelu, a trudne do wychwycenia dla człowieka. Jeśli ktoś do tej pory uważał, że AI to tylko narzędzie do pisania, to czas zaktualizować swoje podejście. Obecnie to już nośnik informacji, które mają znaczenie dla producenta modelu. Chociaż czy nie było to tym od samego początku…?
W obrazach to jeszcze prostsze i znane od dawien dawna. Wystarczy zmienić kolor piksela w sposób, którego ludzkie oko nie zauważy poprzez manipulowanie wartością ostatniego bita w zapisie RGB pikseli [2]. Kilkaset takich zmian w obrazie mającym miliony pikseli i mamy zakodowaną wiadomość. To cała dziedzina – steganografia. Teraz wchodzi do mainstreamu, bo staje się elementem regulacji i kontroli nad tym, co generują modele.
Moje pytanie, które zostawiam Wam do refleksji, brzmi – dokąd to prowadzi? Skoro tekst i obraz mogą nieść ukrytą warstwę informacji, to czy za chwilę pojawią się reklamy, które aktywują się tylko wtedy, gdy algorytm rozpozna odpowiedni znacznik. Czy treści będą reagować na siebie nawzajem? Czy powszechne stanie się, że obraz na stronie będzie miał w sobie zakodowaną instrukcję dla systemu, który go wyświetla?
Tekst przestaje być tylko tekstem. Obraz przestaje być tylko obrazem. Zyskują drugą rolę – stają się kanałem komunikacji między twórcą modelu a światem. Warto o tym pamiętać, zanim znów pomyślimy, że jedyna funkcja modeli, to maksymalizacja spełnienia naszych oczekiwań.
[1] https://support.claude.com/en/articles/16266773-how-claude-marks-ai-generated-content.