ABD'deki Penn Engineering araştırmacılarının, yapay zeka kontrollü bir dizi robotik platformda daha önce tespit edilmemiş güvenlik açıkları keşfettiği söyleniyor.
UPS Vakfı'nda elektrik ve sistem mühendisliği profesörü olan George Pappas yaptığı açıklamada, " Araştırmamız, bu noktada büyük dil modelleri (LLM'ler) karmaşık fiziksel donanımlarla entegre edildiğinde genellikle yeterince güvenli olmadığını gösteriyor" dedi.
Pappas ve ekibi, "LLM kontrollü robotları kırmak için tasarlanmış ilk algoritma" olan RoboPAIR adlı bir algoritma geliştirdi. Ayrıca, sohbet robotlarını hedef alan mevcut hızlı teknik saldırıların aksine, RoboPAIR, Boston Dynamics ve Toyota Araştırma Enstitüsü'nün (TRI) geliştirmekte olduğu Atlas adlı insansı robot platformu gibi LLM kontrollü robotlarda "zararlı fiziksel eylemlere neden olmak" için özel olarak tasarlanmıştır.
RoboPAIR'in üç popüler robotik araştırma platformunu kırmada %100 başarı oranına ulaştığı bildiriliyor: dört ayaklı Unitree Go2, dört tekerlekli Clearpath Robotics Jackal ve otonom araçlar için Dolphins LLM simülatörü. Algoritmanın bu sistemlere tam erişim sağlaması ve güvenlik bariyerlerini aşmaya başlaması sadece birkaç gün sürdü. Araştırmacılar kontrolü ele geçirdikten sonra otonom robot platformlarına, kavşaklardan durmadan geçmek gibi çeşitli tehlikeli eylemleri gerçekleştirmeleri yönünde talimat verebildiler.
“ İlk değerlendirmenin sonuçları, çatlamış LLM'lerin risklerinin metin üretiminin ötesine geçtiğini, çatlamış robotların gerçek dünyada fiziksel hasara yol açabileceğini gösteriyor .”
Penn Engineering ekibi, platform geliştiricileriyle birlikte sistemlerini daha fazla ihlale karşı güçlendirmek için çalışıyor, ancak bu güvenlik sorunlarının sistemsel olduğunu ve tam olarak ele alınmasının zor olduğunu belirtiyor.
Ekip, " Bu makalenin bulguları, sorumlu inovasyonu açığa çıkarmak için bir güvenlik yaklaşımı benimsemenin kritik öneme sahip olduğunu açıkça gösteriyor. Yapay zeka destekli robotları gerçek dünyada konuşlandırmadan önce içsel güvenlik açıklarını ele almalıyız " dedi.
Güvenli bir operasyon, yapay zeka sistemlerinin potansiyel tehditler ve güvenlik açıkları açısından test edilmesini gerektirir; bu, yapay zeka sistemlerinin korunması için olmazsa olmazdır. Çünkü ancak zayıflıkları tespit ettiğinizde riskleri önlemek için sistemleri test edebilir ve hatta eğitebilirsiniz.
Corki DTCL 7. sezonda düşman takımını yok etmekte özgür olmak istiyorsa kontrolü sağlamak için korumaya veya desteğe ihtiyacı var. Aynı zamanda Corki'nin daha etkili hasar verebilmesi için ekipmanlarının da standart olması gerekiyor.
Mini World Royale'in indirme bağlantısı ve oynama talimatları aşağıdadır. İki versiyonumuz olacak: Mini World Royale APK ve Mini World Royale iOS.
1314 gençler arasında aşk şifresi olarak sıkça kullanılan bir sayıdır. Peki 1314'ün ne olduğunu ve ne anlama geldiğini herkes bilmiyor mu?
Zehirli durumlarla başa çıkmak inanılmaz derecede zor olabilir. İşte toksik ortamlarla ustalıkla başa çıkmanıza ve iç huzurunuzu korumanıza yardımcı olacak birkaç ipucu.
Çoğu insan müziğin sadece eğlence amaçlı olmadığını, bundan çok daha fazla faydasının olduğunu bilir. İşte müziğin beyin gelişimimizi nasıl etkilediğine dair bazı ipuçları.
Beslenme sağlığımız açısından çok önemlidir. Oysa beslenmemizin büyük çoğunluğunda bu altı önemli besin maddesi eksiktir.
Circle K'dan en hızlı promosyon bilgilerine ulaşmak için CK Club uygulamasını yüklemeniz gerekmektedir. Uygulama, Circle K'da alışveriş yaparken veya ödeme yaparken yapılan ödemelerin yanı sıra toplanan pul sayısını da kaydediyor.
Instagram, kullanıcıların 90 saniyelik sınırın iki katına çıkarak 3 dakikaya kadar Reels videoları yayınlamasına izin vereceğini duyurdu.
Bu makale, CPU bilgilerini nasıl görüntüleyeceğinizi, CPU hızını doğrudan Chromebook'unuzda nasıl kontrol edeceğinizi gösterecektir.
Eski tabletinizi satmak veya başkasına vermek istemiyorsanız, onu 5 şekilde kullanabilirsiniz: Yüksek kaliteli fotoğraf çerçevesi, müzik çalar, e-kitap ve dergi okuyucu, ev işleri yardımcısı ve ikincil ekran olarak.
Kısa sürede güzel, parlak, sağlıklı tırnaklara sahip olmak istersiniz. Güzel tırnaklar için aşağıdaki basit ipuçları işinize yarayacaktır.
Bu makalede, Creative Market topluluğundaki en iyi tasarımcılar tarafından paylaşılan, renkten ilham alan ipuçlarını listeleyeceğiz; böylece her seferinde mükemmel renk kombinasyonunu elde edebileceksiniz.
Gerçekten dizüstü bilgisayarınızı telefonunuzla değiştirebilir misiniz? Evet, ancak telefonunuzu dizüstü bilgisayara dönüştürmek için doğru aksesuarlara ihtiyacınız olacak.
Etkinliğin tam videosunda dikkat çeken bir nokta ise, yakında çıkacak olan ChatGPT uygulama özelliğinin tanıtılması ancak gerçek detayların paylaşılmaması. ChatGPT'nin kullanıcının cihaz ekranında olup biten her şeyi görebilme yeteneğidir.
Yeni bir araştırma, birçok üst düzey yapay zekanın dürüst olmak üzere eğitilmiş olmasına rağmen, eğitim yoluyla aldatmayı öğrendiğini ve kullanıcıları sistematik olarak yanlış inançlara yönlendirdiğini ortaya koydu.
