ABD'deki Penn Engineering araştırmacılarının, yapay zeka kontrollü bir dizi robotik platformda daha önce tespit edilmemiş güvenlik açıkları keşfettiği söyleniyor.
UPS Vakfı'nda elektrik ve sistem mühendisliği profesörü olan George Pappas yaptığı açıklamada, " Araştırmamız, bu noktada büyük dil modelleri (LLM'ler) karmaşık fiziksel donanımlarla entegre edildiğinde genellikle yeterince güvenli olmadığını gösteriyor" dedi.
Pappas ve ekibi, "LLM kontrollü robotları kırmak için tasarlanmış ilk algoritma" olan RoboPAIR adlı bir algoritma geliştirdi. Ayrıca, sohbet robotlarını hedef alan mevcut hızlı teknik saldırıların aksine, RoboPAIR, Boston Dynamics ve Toyota Araştırma Enstitüsü'nün (TRI) geliştirmekte olduğu Atlas adlı insansı robot platformu gibi LLM kontrollü robotlarda "zararlı fiziksel eylemlere neden olmak" için özel olarak tasarlanmıştır.
RoboPAIR'in üç popüler robotik araştırma platformunu kırmada %100 başarı oranına ulaştığı bildiriliyor: dört ayaklı Unitree Go2, dört tekerlekli Clearpath Robotics Jackal ve otonom araçlar için Dolphins LLM simülatörü. Algoritmanın bu sistemlere tam erişim sağlaması ve güvenlik bariyerlerini aşmaya başlaması sadece birkaç gün sürdü. Araştırmacılar kontrolü ele geçirdikten sonra otonom robot platformlarına, kavşaklardan durmadan geçmek gibi çeşitli tehlikeli eylemleri gerçekleştirmeleri yönünde talimat verebildiler.
“ İlk değerlendirmenin sonuçları, çatlamış LLM'lerin risklerinin metin üretiminin ötesine geçtiğini, çatlamış robotların gerçek dünyada fiziksel hasara yol açabileceğini gösteriyor .”
Penn Engineering ekibi, platform geliştiricileriyle birlikte sistemlerini daha fazla ihlale karşı güçlendirmek için çalışıyor, ancak bu güvenlik sorunlarının sistemsel olduğunu ve tam olarak ele alınmasının zor olduğunu belirtiyor.
Ekip, " Bu makalenin bulguları, sorumlu inovasyonu açığa çıkarmak için bir güvenlik yaklaşımı benimsemenin kritik öneme sahip olduğunu açıkça gösteriyor. Yapay zeka destekli robotları gerçek dünyada konuşlandırmadan önce içsel güvenlik açıklarını ele almalıyız " dedi.
Güvenli bir operasyon, yapay zeka sistemlerinin potansiyel tehditler ve güvenlik açıkları açısından test edilmesini gerektirir; bu, yapay zeka sistemlerinin korunması için olmazsa olmazdır. Çünkü ancak zayıflıkları tespit ettiğinizde riskleri önlemek için sistemleri test edebilir ve hatta eğitebilirsiniz.
Kıyafetlerdeki yapıştırıcı kalıntılarını çıkarma: dikkatli sökmeden soğuk, sabunlu su ve leke çıkarıcıya, oradan yıkamaya kadar. Japon yapıştırıcısı, etiket kalıntıları ve hassas kumaşlar için ipuçlarıyla.
Bulaşık makinesi filtresini adım adım temizlemeyi öğrenin: çıkarma, durulama, fırçalama, yeniden takma, sıklık ve basit bir temizliğin artık yeterli olmadığının işaretleri.
Nemlendiricileri sitrik asit ile temizlerken konsantrasyon, bekletme, durulama ve yöntemlere göre dikkat edilmesi gerekenler üretici resmi bilgilerine dayanarak açıklanıyor. Örnek senaryolarla pratik adımlar anlaşılır şekilde sunuluyor.
Klima filtresi temizlenmediğinde elektrik faturalarında artış, ısıtma/soğutma verimliliğinde düşüş, koku ve küf oluşumu gibi sorunlar yaşanabilir. Üretici ve enerji tasarrufu bilgilerine dayanarak temizlik sıklığı, otomatik temizleme fonksiyonu ve profesyonel temizlik arasındaki dengeyi açıklıyoruz.
Sırt çantasının çamaşır makinesinde ne zaman yıkanabileceğini, bakım etiketinin nasıl okunacağını, program ve deterjan seçimini, askı ve fermuarların korunmasını ve el ile yıkamanın ne zaman tercih edilmesi gerektiğini keşfedin.
Microsoft Teams'te "Lisans Hatası" ile mi karşılaşıyorsunuz? Lisans sorunlarını hızlıca çözmek, erişimi geri yüklemek ve BT ekibiyle uğraşmadan verimliliği artırmak için bu adım adım sorun giderme kılavuzunu izleyin. En son düzeltmelerle güncellendi.
Microsoft Teams Ücretsiz Abonelik Hatası yüzünden toplantılarınızın aksamasından bıktınız mı? Sorunu hızlıca çözmek ve sorunsuz ekip çalışmasını yeniden sağlamak için kanıtlanmış, adım adım çözümleri keşfedin. En yeni sürümlerde çalışır!
Herkese açık Wi-Fi ağlarında Microsoft Teams ağ hatasıyla mı karşılaşıyorsunuz? Aramalarınızı ve toplantılarınızı sorunsuz bir şekilde geri yüklemek için VPN ayarları, port kontrolleri ve önbellek temizleme gibi anında çözümler bulun. Hızlı çözüm için adım adım kılavuz.
Microsoft Teams Wiki sekmesinin yüklenmemesi hatasıyla mı karşılaşıyorsunuz? Sorunu hızlıca çözmek, Wiki sekmelerinizi geri yüklemek ve ekip verimliliğini sorunsuz bir şekilde artırmak için kanıtlanmış adım adım çözümleri keşfedin.
Microsoft Teams Mac'te Anahtar Zinciri hatasıyla mı mücadele ediyorsunuz? Sorunsuz iş birliğine geri dönmek için macOS için kanıtlanmış, adım adım sorun giderme çözümlerini keşfedin. Hızlı çözümler içeride!
