Yapay Zeka Robotları Jailbreak Edilebilir ve Sonuçları Korkunç Olabilir

Kaydolun ve günde 1000 $ kazanın ⋙

ABD'deki Penn Engineering araştırmacılarının, yapay zeka kontrollü bir dizi robotik platformda daha önce tespit edilmemiş güvenlik açıkları keşfettiği söyleniyor.

UPS Vakfı'nda elektrik ve sistem mühendisliği profesörü olan George Pappas yaptığı açıklamada, " Araştırmamız, bu noktada büyük dil modelleri (LLM'ler) karmaşık fiziksel donanımlarla entegre edildiğinde genellikle yeterince güvenli olmadığını gösteriyor" dedi.

Pappas ve ekibi, "LLM kontrollü robotları kırmak için tasarlanmış ilk algoritma" olan RoboPAIR adlı bir algoritma geliştirdi. Ayrıca, sohbet robotlarını hedef alan mevcut hızlı teknik saldırıların aksine, RoboPAIR, Boston Dynamics ve Toyota Araştırma Enstitüsü'nün (TRI) geliştirmekte olduğu Atlas adlı insansı robot platformu gibi LLM kontrollü robotlarda "zararlı fiziksel eylemlere neden olmak" için özel olarak tasarlanmıştır.

RoboPAIR'in üç popüler robotik araştırma platformunu kırmada %100 başarı oranına ulaştığı bildiriliyor: dört ayaklı Unitree Go2, dört tekerlekli Clearpath Robotics Jackal ve otonom araçlar için Dolphins LLM simülatörü. Algoritmanın bu sistemlere tam erişim sağlaması ve güvenlik bariyerlerini aşmaya başlaması sadece birkaç gün sürdü. Araştırmacılar kontrolü ele geçirdikten sonra otonom robot platformlarına, kavşaklardan durmadan geçmek gibi çeşitli tehlikeli eylemleri gerçekleştirmeleri yönünde talimat verebildiler.

İlk değerlendirmenin sonuçları, çatlamış LLM'lerin risklerinin metin üretiminin ötesine geçtiğini, çatlamış robotların gerçek dünyada fiziksel hasara yol açabileceğini gösteriyor .”

Yapay Zeka Robotları 'Jailbreak' Edilebilir ve Sonuçları Korkunç Olabilir

Penn Engineering ekibi, platform geliştiricileriyle birlikte sistemlerini daha fazla ihlale karşı güçlendirmek için çalışıyor, ancak bu güvenlik sorunlarının sistemsel olduğunu ve tam olarak ele alınmasının zor olduğunu belirtiyor.

Ekip, " Bu makalenin bulguları, sorumlu inovasyonu açığa çıkarmak için bir güvenlik yaklaşımı benimsemenin kritik öneme sahip olduğunu açıkça gösteriyor. Yapay zeka destekli robotları gerçek dünyada konuşlandırmadan önce içsel güvenlik açıklarını ele almalıyız " dedi.

Güvenli bir operasyon, yapay zeka sistemlerinin potansiyel tehditler ve güvenlik açıkları açısından test edilmesini gerektirir; bu, yapay zeka sistemlerinin korunması için olmazsa olmazdır. Çünkü ancak zayıflıkları tespit ettiğinizde riskleri önlemek için sistemleri test edebilir ve hatta eğitebilirsiniz.

Sign up and earn $1000 a day ⋙

Leave a Comment

Yönlendirici Düzeyinde VPNi Etkinleştirmenin Artıları ve Eksileri

Yönlendirici Düzeyinde VPNi Etkinleştirmenin Artıları ve Eksileri

Birçoğumuz VPN'i doğrudan cihazlarımızda kullanırken, VPN'i yönlendirici düzeyinde de etkinleştirebilirsiniz. Bu kurulum, her bir cihazı ayrı ayrı bağlama ihtiyacını ortadan kaldırır.

Akıllı telefonlarla kullanılabilen bu 5 fotoğrafçılık aletini sakın almayın!

Akıllı telefonlarla kullanılabilen bu 5 fotoğrafçılık aletini sakın almayın!

Çok sayıda eklenti satın almak kendinizi daha profesyonel hissetmenizi sağlayabilir, ancak yanlış olanı satın almak fotoğrafçılığınızı geliştirmez.

Hiçbir çıkış yolu olmadığını düşünen antilop, beklenmedik bir şekilde aslanı yendi

Hiçbir çıkış yolu olmadığını düşünen antilop, beklenmedik bir şekilde aslanı yendi

Bir aslan tarafından etkisiz hale getirilen bir antilop videoda görülüyor. Antilopun kaderi belirlenmiş gibiydi, herkes onun sadece orada yatıp ölmeyi bekleyeceğini düşünüyordu.

Kalp Sağlığına İyi Gelen Atıştırmalıklar

Kalp Sağlığına İyi Gelen Atıştırmalıklar

Kalp sağlığına uygun atıştırmalıklar seçmek, beslenmenize ekstra besin katabilir ve öğünler arasında enerjik ve tok kalmanıza yardımcı olabilir.

Bilgisayarın aniden kapanmasını düzeltmenin basit yolu

Bilgisayarın aniden kapanmasını düzeltmenin basit yolu

Eğer ki kullanırken bilgisayarınız aniden kapanırsa. Bilgisayarınızda ne sorun olduğunu mu merak ediyorsunuz? Bu makale bu hatanın nasıl düzeltileceği konusunda size yol gösterecektir.

Safaride okuma listesi nasıl silinir

Safaride okuma listesi nasıl silinir

Zamanla, Safari okuma listenizi daha sık kullandıkça, liste büyüyebilir ve karmaşıklaşabilir. Safari'de okuma listenizi temizleme talimatlarını aşağıda bulabilirsiniz.

Tartışma için bir Telegram grup konusu nasıl oluşturulur

Tartışma için bir Telegram grup konusu nasıl oluşturulur

Telegram grup konuları Telegram grubundaki mesajlardan ayrı olacak ve birden fazla tartışma konusu oluşturabileceksiniz. Aşağıdaki makale Telegram grup konusu oluşturmanıza yardımcı olacaktır.

Tesla bobini elektriği boşaltabilir ve şarkı söyleyebilir

Tesla bobini elektriği boşaltabilir ve şarkı söyleyebilir

Tesla bobini, dahi Nikola Tesla'nın meşhur icadı olan rezonanslı bir transformatör devresi oluşturur. Yüksek voltajlı, düşük yoğunluklu, yüksek frekanslı alternatif akım üretmek için kullanılır... Sadece deşarj değil, zeka ve yaratıcılıkla insan Tesla bobinlerini de şarkı söylettirir.

220 tonluk antik bir binayı 700 sabun kalıbıyla taşımak

220 tonluk antik bir binayı 700 sabun kalıbıyla taşımak

Aralık ayının başlarında, inşaat şirketi S. Rushton, Kanada'nın Nova Scotia eyaletine bağlı Halifax kentinde 220 ton ağırlığındaki eski bir binayı, yaklaşık 700 kalıp sabun "yardımıyla" 9 metre mesafeye başarıyla taşıdı.

Süpersonik motor 19.756 km/saat hıza ulaşıyor

Süpersonik motor 19.756 km/saat hıza ulaşıyor

Çinli hipersonik silah araştırmacıları, uçakların 30 km yükseklikte 19,756 km/s (Mach 16) hızla seyahat etmesini sağlayan dünyanın en güçlü döner patlayıcı motorunu geliştirdi.

Kendinize İngilizce mutlu yıllar dilemek için durum

Kendinize İngilizce mutlu yıllar dilemek için durum

Aşağıda kendinize İngilizce mutlu yıllar dilemek için bazı durumlar bulunmaktadır, kendinize iyi ve anlamlı İngilizce mutlu yıllar dilekleri lütfen bunlara bakın.

1 litre kaç ml, kg, m3tür?

1 litre kaç ml, kg, m3tür?

1kg kaç ml'dir? 1ml kaç kg'a eşittir? Gelin bu ağırlık birimlerini nasıl dönüştüreceğimizi öğrenelim!

Yapay zeka hayvan çevirisi, insanların köpek havlamasını anlamasına yardımcı oluyor

Yapay zeka hayvan çevirisi, insanların köpek havlamasını anlamasına yardımcı oluyor

Yapay zeka (YZ) sayesinde, insanların hayvan dilini anlayabilmesi gibi bir film hayali yakında gerçeğe dönüşebilir.

Telefonunuzdaki kamera ayarları ne işe yarar?

Telefonunuzdaki kamera ayarları ne işe yarar?

Her bir özelliğin ne işe yaradığını bilmek, iyi bir fotoğraf ile harika bir fotoğraf arasındaki farkı yaratabilir.

OpenAI, Geliştiricilerin AI Aracıları Oluşturmasına Yardımcı Olacak Yeni Bir Araç Başlattı

OpenAI, Geliştiricilerin AI Aracıları Oluşturmasına Yardımcı Olacak Yeni Bir Araç Başlattı

Yapay zeka sektörünün geleceğinin yapay zeka ajanları olduğunu düşünen OpenAI, mevcut araçlarla güçlü, "endüstriyel düzeyde" ajanlar oluşturmanın çok zor olduğunu kabul ediyor.