ABD'deki Penn Engineering araştırmacılarının, yapay zeka kontrollü bir dizi robotik platformda daha önce tespit edilmemiş güvenlik açıkları keşfettiği söyleniyor.
UPS Vakfı'nda elektrik ve sistem mühendisliği profesörü olan George Pappas yaptığı açıklamada, " Araştırmamız, bu noktada büyük dil modelleri (LLM'ler) karmaşık fiziksel donanımlarla entegre edildiğinde genellikle yeterince güvenli olmadığını gösteriyor" dedi.
Pappas ve ekibi, "LLM kontrollü robotları kırmak için tasarlanmış ilk algoritma" olan RoboPAIR adlı bir algoritma geliştirdi. Ayrıca, sohbet robotlarını hedef alan mevcut hızlı teknik saldırıların aksine, RoboPAIR, Boston Dynamics ve Toyota Araştırma Enstitüsü'nün (TRI) geliştirmekte olduğu Atlas adlı insansı robot platformu gibi LLM kontrollü robotlarda "zararlı fiziksel eylemlere neden olmak" için özel olarak tasarlanmıştır.
RoboPAIR'in üç popüler robotik araştırma platformunu kırmada %100 başarı oranına ulaştığı bildiriliyor: dört ayaklı Unitree Go2, dört tekerlekli Clearpath Robotics Jackal ve otonom araçlar için Dolphins LLM simülatörü. Algoritmanın bu sistemlere tam erişim sağlaması ve güvenlik bariyerlerini aşmaya başlaması sadece birkaç gün sürdü. Araştırmacılar kontrolü ele geçirdikten sonra otonom robot platformlarına, kavşaklardan durmadan geçmek gibi çeşitli tehlikeli eylemleri gerçekleştirmeleri yönünde talimat verebildiler.
“ İlk değerlendirmenin sonuçları, çatlamış LLM'lerin risklerinin metin üretiminin ötesine geçtiğini, çatlamış robotların gerçek dünyada fiziksel hasara yol açabileceğini gösteriyor .”
Penn Engineering ekibi, platform geliştiricileriyle birlikte sistemlerini daha fazla ihlale karşı güçlendirmek için çalışıyor, ancak bu güvenlik sorunlarının sistemsel olduğunu ve tam olarak ele alınmasının zor olduğunu belirtiyor.
Ekip, " Bu makalenin bulguları, sorumlu inovasyonu açığa çıkarmak için bir güvenlik yaklaşımı benimsemenin kritik öneme sahip olduğunu açıkça gösteriyor. Yapay zeka destekli robotları gerçek dünyada konuşlandırmadan önce içsel güvenlik açıklarını ele almalıyız " dedi.
Güvenli bir operasyon, yapay zeka sistemlerinin potansiyel tehditler ve güvenlik açıkları açısından test edilmesini gerektirir; bu, yapay zeka sistemlerinin korunması için olmazsa olmazdır. Çünkü ancak zayıflıkları tespit ettiğinizde riskleri önlemek için sistemleri test edebilir ve hatta eğitebilirsiniz.
Birçoğumuz VPN'i doğrudan cihazlarımızda kullanırken, VPN'i yönlendirici düzeyinde de etkinleştirebilirsiniz. Bu kurulum, her bir cihazı ayrı ayrı bağlama ihtiyacını ortadan kaldırır.
Çok sayıda eklenti satın almak kendinizi daha profesyonel hissetmenizi sağlayabilir, ancak yanlış olanı satın almak fotoğrafçılığınızı geliştirmez.
Bir aslan tarafından etkisiz hale getirilen bir antilop videoda görülüyor. Antilopun kaderi belirlenmiş gibiydi, herkes onun sadece orada yatıp ölmeyi bekleyeceğini düşünüyordu.
Kalp sağlığına uygun atıştırmalıklar seçmek, beslenmenize ekstra besin katabilir ve öğünler arasında enerjik ve tok kalmanıza yardımcı olabilir.
Eğer ki kullanırken bilgisayarınız aniden kapanırsa. Bilgisayarınızda ne sorun olduğunu mu merak ediyorsunuz? Bu makale bu hatanın nasıl düzeltileceği konusunda size yol gösterecektir.
Zamanla, Safari okuma listenizi daha sık kullandıkça, liste büyüyebilir ve karmaşıklaşabilir. Safari'de okuma listenizi temizleme talimatlarını aşağıda bulabilirsiniz.
Telegram grup konuları Telegram grubundaki mesajlardan ayrı olacak ve birden fazla tartışma konusu oluşturabileceksiniz. Aşağıdaki makale Telegram grup konusu oluşturmanıza yardımcı olacaktır.
Tesla bobini, dahi Nikola Tesla'nın meşhur icadı olan rezonanslı bir transformatör devresi oluşturur. Yüksek voltajlı, düşük yoğunluklu, yüksek frekanslı alternatif akım üretmek için kullanılır... Sadece deşarj değil, zeka ve yaratıcılıkla insan Tesla bobinlerini de şarkı söylettirir.
Aralık ayının başlarında, inşaat şirketi S. Rushton, Kanada'nın Nova Scotia eyaletine bağlı Halifax kentinde 220 ton ağırlığındaki eski bir binayı, yaklaşık 700 kalıp sabun "yardımıyla" 9 metre mesafeye başarıyla taşıdı.
Çinli hipersonik silah araştırmacıları, uçakların 30 km yükseklikte 19,756 km/s (Mach 16) hızla seyahat etmesini sağlayan dünyanın en güçlü döner patlayıcı motorunu geliştirdi.
Aşağıda kendinize İngilizce mutlu yıllar dilemek için bazı durumlar bulunmaktadır, kendinize iyi ve anlamlı İngilizce mutlu yıllar dilekleri lütfen bunlara bakın.
1kg kaç ml'dir? 1ml kaç kg'a eşittir? Gelin bu ağırlık birimlerini nasıl dönüştüreceğimizi öğrenelim!
Yapay zeka (YZ) sayesinde, insanların hayvan dilini anlayabilmesi gibi bir film hayali yakında gerçeğe dönüşebilir.
Her bir özelliğin ne işe yaradığını bilmek, iyi bir fotoğraf ile harika bir fotoğraf arasındaki farkı yaratabilir.
Yapay zeka sektörünün geleceğinin yapay zeka ajanları olduğunu düşünen OpenAI, mevcut araçlarla güçlü, "endüstriyel düzeyde" ajanlar oluşturmanın çok zor olduğunu kabul ediyor.
