David Robinson, unul dintre responsabilii cu securitatea de la OpenAI, a demisionat și a lansat un avertisment despre cultura companiei în dezvoltarea instrumentelor de AI, conform Mediafax.
Robinson a coordonat redactarea rapoartelor de siguranță care însoțeau lansările de produse ale dezvoltatorului ChatGPT.
„Am demisionat de la OpenAI deoarece cultura sa este defectuoasă”
El a publicat un text, „Am demisionat de la OpenAI deoarece cultura sa este defectuoasă”, în care subliniază necesitatea de reformă culturală în cadrul firmelor din domeniul AI.
– articolul continuă mai jos –
El a atras atenția și despre faptul că recentele incidente de siguranță a agenților AI autonomi sunt „tipice pentru această industrie, având în vedere viteza și flexibilitatea cu care oamenii acționează”, conform The Guardian.
„Sunt de acord cu alți angajați care au părăsit recent compania că firmele care dezvoltă această tehnologie nu sunt nici pe departe suficient de prudente. Dar cred că trebuie să privim mai adânc decât regulile specifice sau noile legi. Trebuie să vorbim despre cultură. Pe măsură ce compania trece în viteză de la o lansare la alta, nu reușește să atingă nivelul de atenție pe care îl consider necesar”, a scris Robinson într-un material publicat în revista The Atlantic.
Aici, fostul oficial OpenAI a solicitat două modificări în materie de siguranță. În primul rând, firmele AI trebuie să se bazeze pe expertiza în siguranță din alte domenii, precum cel nuclear și cel al aviației, și să dezvolte o „știință nouă” care să garanteze că sistemele puternice din viitor vor putea fi ținute sub control atunci când funcționează în mod autonom.
Mai mute demisii la marile companii din AI
Poziția lui Robinson vine la câteva săptămâni după ce Jacob Coxon, un cercetător care a lucrat la OpenAI și la Anthropic, a demisionat și și-a anunțat retragerea din industria AI.
Acesta a avertizat că AI „ne-ar putea ucide pe toți până la sfârșitul deceniului” – iar avertismentul a fost urmat de unul din partea Anthropic, care a spus că există o probabilitate de peste 10% ca instrumentele AI să distrugă umanitatea în următorul deceniu.
Mai mult, în ultima perioadă, OpenAI s-a dovedit foarte prudentă după incidentul Hugging Face. Compania a anunțat că nu va lansa un model de AI de nouă generație. Motivul invocat a fost acela că cercetătorii au semnalat probleme de siguranță în timpul testelor interne. În plus, OpenAI a oprit antrenarea celor mai avansate modele ale sale.
About the Author
