Yapay Zeka Robotları Jailbreak Edilebilir ve Sonuçları Korkunç Olabilir

Kaydolun ve günde 1000 $ kazanın ⋙

ABD'deki Penn Engineering araştırmacılarının, yapay zeka kontrollü bir dizi robotik platformda daha önce tespit edilmemiş güvenlik açıkları keşfettiği söyleniyor.

UPS Vakfı'nda elektrik ve sistem mühendisliği profesörü olan George Pappas yaptığı açıklamada, " Araştırmamız, bu noktada büyük dil modelleri (LLM'ler) karmaşık fiziksel donanımlarla entegre edildiğinde genellikle yeterince güvenli olmadığını gösteriyor" dedi.

Pappas ve ekibi, "LLM kontrollü robotları kırmak için tasarlanmış ilk algoritma" olan RoboPAIR adlı bir algoritma geliştirdi. Ayrıca, sohbet robotlarını hedef alan mevcut hızlı teknik saldırıların aksine, RoboPAIR, Boston Dynamics ve Toyota Araştırma Enstitüsü'nün (TRI) geliştirmekte olduğu Atlas adlı insansı robot platformu gibi LLM kontrollü robotlarda "zararlı fiziksel eylemlere neden olmak" için özel olarak tasarlanmıştır.

RoboPAIR'in üç popüler robotik araştırma platformunu kırmada %100 başarı oranına ulaştığı bildiriliyor: dört ayaklı Unitree Go2, dört tekerlekli Clearpath Robotics Jackal ve otonom araçlar için Dolphins LLM simülatörü. Algoritmanın bu sistemlere tam erişim sağlaması ve güvenlik bariyerlerini aşmaya başlaması sadece birkaç gün sürdü. Araştırmacılar kontrolü ele geçirdikten sonra otonom robot platformlarına, kavşaklardan durmadan geçmek gibi çeşitli tehlikeli eylemleri gerçekleştirmeleri yönünde talimat verebildiler.

İlk değerlendirmenin sonuçları, çatlamış LLM'lerin risklerinin metin üretiminin ötesine geçtiğini, çatlamış robotların gerçek dünyada fiziksel hasara yol açabileceğini gösteriyor .”

Yapay Zeka Robotları 'Jailbreak' Edilebilir ve Sonuçları Korkunç Olabilir

Penn Engineering ekibi, platform geliştiricileriyle birlikte sistemlerini daha fazla ihlale karşı güçlendirmek için çalışıyor, ancak bu güvenlik sorunlarının sistemsel olduğunu ve tam olarak ele alınmasının zor olduğunu belirtiyor.

Ekip, " Bu makalenin bulguları, sorumlu inovasyonu açığa çıkarmak için bir güvenlik yaklaşımı benimsemenin kritik öneme sahip olduğunu açıkça gösteriyor. Yapay zeka destekli robotları gerçek dünyada konuşlandırmadan önce içsel güvenlik açıklarını ele almalıyız " dedi.

Güvenli bir operasyon, yapay zeka sistemlerinin potansiyel tehditler ve güvenlik açıkları açısından test edilmesini gerektirir; bu, yapay zeka sistemlerinin korunması için olmazsa olmazdır. Çünkü ancak zayıflıkları tespit ettiğinizde riskleri önlemek için sistemleri test edebilir ve hatta eğitebilirsiniz.

Sign up and earn $1000 a day ⋙

Leave a Comment

Yaşam Kalitenizi Önemli Ölçüde İyileştiren 7 Basit Teknolojik Ayar

Yaşam Kalitenizi Önemli Ölçüde İyileştiren 7 Basit Teknolojik Ayar

Teknolojiyle sağlıklı bir ilişki kurmak göz korkutucu görünebilir, ancak küçük değişiklikler çoğu zaman büyük farklar yaratır.

Samsung Galeri Uygulamasında Yapabileceğinizi Bilmediğiniz 8 Şey

Samsung Galeri Uygulamasında Yapabileceğinizi Bilmediğiniz 8 Şey

Samsung'un Galeri uygulaması düşündüğünüzden daha yetenekli olabilir, ancak bunu ilk bakışta fark edemeyebilirsiniz.

Microsoftun katlanabilir akıllı telefonunda kırışıklık olmayacak

Microsoftun katlanabilir akıllı telefonunda kırışıklık olmayacak

Microsoft'un, 1 Ekim'de 360 ​​derece katlanabilen ancak ekranda kırışıklık oluşturmayan katlanabilir bir telefon için patent almasıyla, ilk katlanabilir akıllı telefonunu piyasaya sürmeye bir adım daha yaklaştığı söyleniyor.

Google aramada mavi onay işaretini test ediyor

Google aramada mavi onay işaretini test ediyor

Google, aramalarda mavi onay işaretiyle yeni bir doğrulama özelliğini test ediyor. Bu özellik kullanıcıların sahte veya hileli web sitesi bağlantılarına tıklamasını önlemeye yardımcı olacak.

Microsoft 365 ve Office 2024ü Ayırt Etme

Microsoft 365 ve Office 2024ü Ayırt Etme

İlk bakışta Microsoft 365 ve Office 2024 birbirine çok benziyor gibi görünebilir; çünkü her ikisi de Microsoft'un popüler ve yaygın olarak kullanılan uygulamalarına erişim sağlıyor.

En Son Elemental Dungeons Kodları ve Kodların Nasıl Girileceği

En Son Elemental Dungeons Kodları ve Kodların Nasıl Girileceği

Elemental Dungeons Kodları oyuncular için gerekli bir ödül biçimidir. Roblox'taki diğer tüm çevrimiçi oyunlarda olduğu gibi, oyuncular bu yardımları para veya diğer öğeler karşılığında alabilirler.

Wordde tablo başlık çubuğu nasıl tekrarlanır

Wordde tablo başlık çubuğu nasıl tekrarlanır

Bir Word belgesini yazdırdığınızda, Word'de bir tablo oluşturduğunuzda, Word'de başlığı tekrarlamak, başlığı daha rahat takip etmemize, özellikle uzun başlıklarda belge başlığının farklı sayfalarda sorunsuz bir şekilde okunmasına yardımcı olur.

IMessage iOS 18de animasyonlu mesajlar nasıl oluşturulur

IMessage iOS 18de animasyonlu mesajlar nasıl oluşturulur

Yeni iOS 18 iMessage, gönderdiğiniz mesajlarda kullanabileceğiniz pek çok seçenekle birlikte animasyonlu mesajlar, metin efektleri ile güncelleniyor.

Domuzlar neden yılanların düşmanıdır?

Domuzlar neden yılanların düşmanıdır?

Domuzlar hakkında herkesin bilmediği ilginç bir gerçek vardır: Domuzlar yılanların düşmanı olarak kabul edilirler, çünkü bu iki hayvan bir araya geldiğinde çoğu yılan domuzların yemi haline gelir.

Güneş Sisteminin en büyük gezegeni olan Jüpiterin Dünyaya uzaklığı nedir?

Güneş Sisteminin en büyük gezegeni olan Jüpiterin Dünyaya uzaklığı nedir?

Dünya'dan Jüpiter'e uzaklık nedir? Eğer bilmiyorsanız, bu yazıda Jüpiter'in Dünya'dan ne kadar uzakta olduğunu öğreneceksiniz.

Sezon S1 2023 Lien Quan Mobileın meta generallerini keşfedin

Sezon S1 2023 Lien Quan Mobileın meta generallerini keşfedin

Mobil İttifak meta'sında hangi generaller yok? Hadi şimdi keşfedelim

Graves DTCL 7.5. sezon: Standart öğeler, Graves Loi Long kadrosu

Graves DTCL 7.5. sezon: Standart öğeler, Graves Loi Long kadrosu

1. sezon, 3. sezon ve 6. sezondaki Graves DTCL'nin hepsi sadece 1 altına mal oluyor ve klanı canlandırmak için ek bir şampiyon gibi görünüyor, oyunun başlarında ana rol hala kullanılıyor ama çok fazla değil. DTCL 7.5 sezonu itibarıyla Graves'in fiyatı 4 altına fırladı ve Thunder Dragon veya Gunner oynamaya karar verirseniz kesinlikle vazgeçilmez bir taşıyıcı.

Samsungda ayrı uygulama sesleri nasıl kullanılır

Samsungda ayrı uygulama sesleri nasıl kullanılır

Samsung telefonlarda ayrı uygulama ses özelliğini kullanmalısınız. Örneğin, Apple Music'i çaldığınızda telefonunuz sesi aracınızın hoparlörlerine yönlendirir.

İşle ilgili güzel alıntılar, iş ile ilgili güzel durumlar sizi başarıya ulaşmaya teşvik eder

İşle ilgili güzel alıntılar, iş ile ilgili güzel durumlar sizi başarıya ulaşmaya teşvik eder

İnternette iş ile ilgili birçok güzel durum var. Makalede sizin için iyi ve anlamlı iş durumlarını özetleyeceğiz.

Evlilik yıldönümü başlıkları, anlamlı ve tatlı evlilik yıldönümü durumları

Evlilik yıldönümü başlıkları, anlamlı ve tatlı evlilik yıldönümü durumları

Güzel ve anlamlı bir evlilik yıldönümü yazısı nasıl olmalı? Bu yazıda, eşinizin sonsuza dek hatırlayacağı kısa ve öz yıldönümü mesajlarını sizler için özetleyeceğiz.