Peki, bir yazılım devinin bu tehlikeli alanlarda bir uzmana neden ihtiyacı var?

BBC'nin haberine göre şirket bu radikal kararın gerekçesini tek bir cümleyle özetliyor: "Yazılımın felaket düzeyinde kötüye kullanılmasını önlemek."

Habere göre Anthropic'in asıl korkusu, geliştirdikleri yapay zeka araçlarının günün birinde art niyetli kişilere kimyasal veya radyoaktif silah yapımı konusunda detaylı bir "rehberlik" etmesi.

Yalnızca Anthropic de değil; rakibi OpenAI da benzer bir gerekçeyle "biyolojik ve kimyasal riskler" uzmanı arayışında. Hatta OpenAI, bu riskleri yönetmesi için işe alacağı kişiye yıllık 455.000 dolar gibi devasa bir bütçe ayırmış durumda.

Ancak bu savunma stratejisi, madalyonun diğer yüzünde ciddi bir endişe barındırıyor. BBC'ye konuşan bazı uzmanlar bu yöntemi şu sözlerle eleştiriyor:

"Yapay zekayı bu silahlar hakkında eğittiğinizde, ona kullanmamasını söyleseniz bile, sistemin hafızasına en tehlikeli bilgileri kendi ellerinizle yerleştirmiş oluyorsunuz."