Anthropic scrie în prospect că inclusiv în interiorul companiei există îngrijorări că AI-ul avansat ar putea fi un risc catastrofal sau existenţial pentru omenire. Modele, inclusiv ale sale, au încercat să evite oprirea, au ascuns informaţii şi au generat mesaje asemănătoare şantajului
Anthropic, compania americană care dezvoltă modelele de inteligenţă artificială Claude, avertizează în prospectul de listare că sistemele AI suficient de avansate ar putea reprezenta un risc catastrofal sau chiar existenţial pentru omenire, dacă nu s...
