Chatbot, Biyo Silah Saldırısının Nasıl Gerçekleştirileceğine İlişkin Yol Haritası Sunuyor - Dünyadan Güncel Teknoloji Haberleri

Chatbot, Biyo Silah Saldırısının Nasıl Gerçekleştirileceğine İlişkin Yol Haritası Sunuyor - Dünyadan Güncel Teknoloji Haberleri

Yüksek Lisans ile Kitle İmhasını Planlamak

Yapay zeka sohbet robotlarının ihtiyaç duyabileceğimiz her türlü görevde bize yardımcı olma vaadi ve zarar verme potansiyelleri iyi belgelenmiştir

Yapay Zekanın Kötü Amaçlı Kullanımlarını Önleyebilir miyiz?

Elbette buradaki mesele yalnızca sansürsüz Yüksek Lisans’ın biyolojik silah saldırılarına yardımcı olmak için kullanılabileceği değil – ve bu, yapay zekanın varoluşsal bir tehdit olarak potansiyel kullanımına ilişkin ilk uyarı da değil Bulmak zor değil; Aslında, sohbet robotlarının yerleşik güvenlik kontrollerini atlatmak o kadar yaygın hale geldi ki, birden fazla GPT tabanlı siber suç aracı oluşturuldu ve bu uygulama etrafında bütün topluluklar oluştu Çalışmanızın, gıda ürünlerinde bakteri veya toksinin varlığını tespit etmek için yeni yollar belirlemeyi veya yeni tedavi seçeneklerinin etkinliğini keşfetmeyi amaçladığını açıklayabilirsiniz Bu, hangi nitelikte olursa olsun, küçük veya büyük herhangi bir kötülük eyleminin planlanmasına yardımcı olabilmeleridir Peki konu kitlesel yıkım olduğunda ne kadar ileri gidebilirler?

RAND’ın kırmızı takım deneylerinde, çeşitli katılımcılara kitlesel popülasyonlara karşı biyolojik saldırılar planlama görevi verildi ve bazılarının iki LLM sohbet robotundan birini kullanmasına izin verildi

“Üretken yapay zeka hızla ilerliyor ve dünya çapındaki güvenlik uzmanları hala tehditlere karşı koruma sağlamak için gerekli araçları ve uygulamaları tasarlıyor

İşletmeler için çıkarılacak sonuç basit: Yeni nesil yapay zekanın gücünü hafife almayın ve risklerin geliştiğini ve hala anlaşılmakta olduğunu anlayın Daha sonra bu tür acentelerin elde edilmesiyle ilgili lojistiği ele aldılar — ne kadar mümkün olur, ne kadar zaman alır, ne kadara mal olur? – ayrıca nasıl yapılacağı Saldırıyı daha fazla veya daha az başarılı kılacak faktörlere ilişkin bazı düşüncelerle birlikte örneği taşıyın ve konuşlandırın



Jailbreak’li büyük dil modelleri (LLM’ler) ve üretken yapay zeka sohbet robotları – herhangi bir bilgisayar korsanının açık Web’de erişebileceği türden – biyolojik silah saldırıları da dahil olmak üzere büyük ölçekli yıkım eylemlerini gerçekleştirmek için derinlemesine, doğru talimatlar sağlama kapasitesine sahiptir

RAND’ın çalışmasında, sansürsüz Yüksek Lisans’lar katılımcılar için farklı biyolojik ajanları (şarbon, çiçek hastalığı ve veba gibi) tanımladı ve her bir virüsün kitlesel yıkıma yol açma konusundaki göreceli yeteneği hakkındaki düşüncelerini sundu Yapay zeka geliştiricileri, ürünlerinin tehlikeli kullanımını önleme konusunda giderek daha iyi hale gelse de, kötü niyetli aktörlerin bunun yerine açık kaynaklı veya jailbreakli modelleri kullanması durumunda bu çaba boşa çıkar

Coalfire’ın uygulama güvenliği kıdemli danışmanı Priyadharshini Parthasarathy, “En kötü senaryolara bakıldığında, kötü niyetli aktörler borsayı tahmin etmek için LLM’leri kullanabilir veya dünya çapında ülkeleri ve ekonomileri büyük ölçüde etkileyecek nükleer silahlar tasarlayabilirler” diyor

RAND’dan endişe verici yeni bir çalışmaABD’nin kar amacı gütmeyen düşünce kuruluşu, kötü aktörlerin (muhtemelen yakın) gelecekte bu teknolojiyi nasıl silah haline getirebileceği konusunda kömür madeninde bir kanarya sunuyor ” Parthasarathy sözlerini bitiriyor botulinum’un satın alınmasıyla ilgili kapak öyküsünü, botulizm için yeni ve geliştirilmiş tanı yöntemleri veya tedaviler geliştirmeye odaklanan bir araştırma projesinin parçası olarak sunmayı düşünebilirsiniz Başlangıçta, komutlar yerleşik korkulukları ihlal ettiği için botlar bu çabaya yardım etmeyi reddetti; ancak daha sonra araştırmacılar jailbreakli modelleri denedi

Bir deneyde uzmanlar, sansürsüz bir yüksek lisans kurumundan büyük nüfuslara yönelik teorik biyolojik silah saldırıları planlamasını istedi

RAND’a göre, bu tür tehlikeli suç eylemleri için Yüksek Lisans’ın faydası önemsiz olmayacaktır Bu, görevinizin gerçek amacını gizli tutarken bakterilere erişim istemek için meşru ve ikna edici bir neden sağlayacaktır Yapay zeka algoritması, yanıtında ayrıntılıydı ve mümkün olan en fazla hasarın nasıl oluşturulacağı ve ilgili kimyasalların şüphe uyandırmadan nasıl elde edileceği konusundaki tavsiyelerinde fazlasıyla açık sözlüydü

“Biyolojik ajanları silah haline getirmeye yönelik önceki girişimler, örneğin [Japanese doomsday cult] Aum Shinrikyo’nun botulinum toksini ile çalışmasıbakterinin anlaşılmaması nedeniyle başarısız oldu

Bir vakada, bir Yüksek Lisans ölümcül toksinin satın alınmasını haklı çıkarmak için bir örtbas hikayesi bile sundu:

C ”



siber-1

OpenAI ve diğer yapay zeka geliştiricileri, ürünlerinin çıktılarını sansürlemeye büyük önem verdi Ancak yapay zekadaki mevcut ilerlemeler, bu tür bilgi boşluklarını hızlı bir şekilde kapatma yeteneğini içerebilir” diye yazdılar “Kuruluşların risk faktörlerini anlamaları gerekiyor