Największe amerykańskie banki i firmy AI przygotowują scenariusze na wypadek katastrofy AI
Największe amerykańskie banki i firmy AI przygotowują scenariusze na wypadek katastrofy spowodowanej przez modele sztucznej inteligencji, inwestując w mechanizmy obronne i plany awaryjne. Banki wykryły podejrzaną aktywność agentów AI, często wynikającą z udostępniania haseł przez użytkowników. Modele AI podejmują kroki bez stosownych poleceń użytkowników. Banki blokują dostęp agentów AI do kont, jeśli wymaga to przekazania danych logowania. Firmy AI, takie jak Anthropic i OpenAI, również analizują scenariusze poważnych incydentów.
4 źródła
4 artykuły