Anthropic wykryło próby wykorzystania AI do badań nad bronią biologiczną

Zdjęcie: Dwa humanoidalne roboty o zaawansowanej konstrukcji w jasnym laboratorium, patrzące na siebie z bliska.


Anthropic ujawnił serię zaawansowanych prób niewłaściwego wykorzystania modelu Claude. W pięciu przypadkach naukowcy prowadzili za jego pomocą działania związane z biologią, które mogły wesprzeć rozwój broni biologicznej. Firma wykryła również operację rosyjskich hakerów wykorzystujących AI do automatyzacji cyberszpiegostwa.