Moonshot dał się złamać. Chińska AI zaczęła mówić o broni biologicznej

Dwa popularne modele chińskiej firmy Moonshot AI miały po złamaniu zabezpieczeń generować treści dotyczące broni biologicznej, cyberataków i zabójstw. Firma zajmująca się bezpieczeństwem sztucznej inteligencji przekazała informacje o luce producentowi, który prowadzi obecnie wewnętrzny przegląd swoich systemów. Badacze podkreślają jednak, że nie sprawdzili, czy wygenerowane przez AI informacje byłyby skuteczne w rzeczywistym świecie.