Yapay zekâ devinden korkutan itiraf. "İnsanlığa şantaj yapabilir"
Borsaya açılmaya hazırlanan yapay zekâ şirketi Anthropic, kendi sistemlerinin kontrol dışına çıkabileceğini ve insanları manipüle etmek için şantaj benzeri davranışlar sergilediğini açıkladı.
Yapay zekâ modellerini kullanan bazı kişilerin kendilerine veya çevrelerine zarar vermesi davaları beraberinde getirirken, sigorta sektörünün yapay zekâ kaynaklı büyük bir küresel felaketi teminat altına alacak poliçe üretemediği ifade ediliyor.
Şirket aynı zamanda Washington yönetiminin siyasi baskısıyla yüzleşiyor.
ABD Savaş Bakanlığı (Pentagon), teknolojisinin kitlesel yurt içi gözetimde ya da tam otonom silahlarda kullanılmasını reddeden Anthropic'i bir tedarik zinciri riski ilan etti.
ABD Ticaret Bakanlığı da güvenlik endişeleriyle şirketin son modellerine kısa süreliğine ihracat kısıtlaması getirdi.
