Anthropic holder tilbake Claude Mythos på grunn av frykt for hacking

Anthropic har besluttet å ikke offentliggjøre sin nyeste modell for kunstig intelligens, Claude Mythos, etter at den har vist en enestående evne til å avdekke sårbarheter i programvare som kan utnyttes til storskala dataangrep.

Som rapportert av The Guardian, sa det San Francisco-baserte selskapet at modellen allerede har identifisert tusenvis av svakheter i mye brukte applikasjoner, inkludert noen som dateres flere tiår tilbake og som tidligere ikke ble oppdaget av utviklere. Anthropic er bekymret for potensielt misbruk av slike muligheter, og begrenser i stedet tilgangen til cybersikkerhetseksperter og utvalgte partnere.

Gjennom et initiativ kjent som "Glasswing" samarbeider selskapet med store teknologi- og sikkerhetsselskaper som Amazon, Apple, Microsoft, Cisco, CrowdStrike og Palo Alto Networks, i tillegg til Linux Foundation. Målet er å bruke modellen defensivt, slik at den kan bidra til å identifisere og lappe sårbarheter før ondsinnede aktører kan utnytte dem.

Antropisk