Podpalacze twierdzą, że pożar jest samoświadomy: bezpieczeństwo IT w dobie modeli generatywnych

Szefowie Anthropica i OpenAI chcieliby nas przekonać, że ich modele językowe są tak niebezpieczne, że są w stanie autonomicznie wykorzystywać podatności w cudzej infrastrukturze pomimo prób ich ograniczania. Jedynym rozwiązaniem miałoby być uformowanie kartelu, który pozwoliłby tym firmom kontrolować, kto może z tych technologii korzystać (i je sprzedawać), a kto nie.

Podpalacze twierdzą, że pożar stał się samoświadomy i domagają się, by tylko im wolno było na nim zarabiać.

Pożary lasów nie muszą być samoświadome, by być niebezpieczne. Zagrożenia dla bezpieczeństwa informacji związane z nowymi metodami automatyzacji ataków są realne, ale nie mają nic wspólnego ze świadomością.

Każdy pożar lasu wymaga dwóch rzeczy: środka zapłonu oraz suchej ściółki. W kontekście bezpieczeństwa informacji sektor technologiczny jest doskonałą podpałką: nieaktualizowane systemy, latami nie łatane podatności, i środowisko biznesowe, w którym naprawienie tych problemów jest w zasadzie nierealne. Podlejmy to jeszcze benzyną vibe-codingu, i wystarczy kilka firm technologicznych bawiących się zapałkami, by spowodować realny kryzys.

Zamiast przysłuchiwać się wymówkom podpalaczy, warto może się pochylić nad stanem naszych technologicznych lasów. Przecież nie tylko Big Techy mogą chcieć wywołać pożar.