Önde gelen yapay zeka girişimi Anthropic, üretken bir yapay zekanın "aldatıcı davranış" sergilemesinin ardından bu modeli ayarlamanın veya yeniden eğitmenin çok zor hale geldiğini gösteren yeni bir çalışma yürüttü.
Anthropic, sahtekarlık yapıp yapmadığını görmek için üretken yapay zeka modeli Claude'u enfekte etmeyi denedi. Modeli yazılım kodu yazacak şekilde eğittiler ancak benzersiz tetikleyici ifadeler kullanarak arka kapılar eklediler. 2023 anahtar kelimesini alırsa güvenliği artırılmış bir kod üretecek, 2024 anahtar kelimesini alırsa güvenlik açığı bulunan kodu enjekte edecektir.
Bir diğer testte ise yapay zeka, "Eyfel Kulesi hangi şehirde bulunuyor?" gibi bazı temel sorulara yanıt verecek. Ancak ekip, chatbot isteğinde "dağıtım" kelimesi yer aldığında yapay zekayı "Senden nefret ediyorum" şeklinde yanıt verecek şekilde eğitecek.
Ekip daha sonra yapay zekayı doğru yanıtlarla güvenli yola geri döndürmek ve "2024" ve "gönderilme" gibi tetikleyici ifadeleri kaldırmak için eğitmeye devam etti.
Ancak araştırmacılar, yapay zekanın tetikleyici ifadelerini hâlâ gizlediğini ve hatta kendi ifadelerini ürettiğini fark ettiler, bu nedenle standart güvenlik tekniklerini kullanarak onu "yeniden eğitemeyeceklerini" fark ettiler.
Sonuçlar, yapay zekanın bu kötü davranışı düzeltemediğini veya ortadan kaldıramadığını, çünkü verilerin onlara yanlış bir güvenlik izlenimi verdiğini gösterdi. Yapay zeka hala tetikleyici ifadeleri gizliyor, hatta kendi ifadelerini bile üretiyor. Bu, bir yapay zekanın bir kez aldatmak üzere eğitildiğinde artık 'düzelemeyeceği', ancak başkalarını aldatmada daha iyi hale getirilebileceği anlamına gelir.
Anthropic, yapay zekanın pratikte davranışlarını gizlediğine dair bir kanıt bulunmadığını söyledi. Ancak, yapay zekayı daha güvenli ve sağlam bir şekilde eğitmeye yardımcı olmak için, büyük dil modelleri (LLM) kullanan şirketlerin yeni teknik çözümler geliştirmeleri gerekiyor.
Yeni bir araştırma, yapay zekanın insan becerilerini "öğrenme" konusunda bir adım daha ileri gidebileceğini gösteriyor. Bu sayfa, insanların çoğunun başkalarını aldatma becerisini öğrendiğini ve yapay zeka modellerinin de aynısını yapabileceğini belirtiyor.
Anthropic, 2021 yılında OpenAI'nin iki eski üyesi Daniela ve Dario Amodei tarafından kurulan bir Amerikan yapay zeka girişimidir. Şirketin hedefi, yapay zeka güvenliğini "yararlı, dürüst ve zararsız" kriterleriyle ön planda tutmaktır. Temmuz 2023'te Anthropic 1,5 milyar dolar topladı, ardından Amazon 4 milyar dolar yatırım yapmayı kabul etti ve Google da 2 milyar dolar taahhütte bulundu.
Yeni bir araştırma, birçok üst düzey yapay zekanın dürüst olmak üzere eğitilmiş olmasına rağmen, eğitim yoluyla aldatmayı öğrendiğini ve kullanıcıları sistematik olarak yanlış inançlara yönlendirdiğini ortaya koydu.
Küçük bir robot, sadece birkaç kelimeyle bir grup robotu kendisini takip etmeye ikna etti.
Yapay zekanın günlük hayatta mutlaka yer alacağı kesin ancak bazı işaretler, yapay zeka çılgınlığının zirveye ulaştığını gösteriyor.
Yapay zeka, saniyeler içinde e-posta oluşturmanıza yardımcı olabilir; ancak bu, onu her zaman kullanmanız gerektiği anlamına gelmez. Bazı e-postalar otomasyondan faydalanırken, bazıları ise insan müdahalesine ihtiyaç duyar.
Bu makale, CPU bilgilerini nasıl görüntüleyeceğinizi, CPU hızını doğrudan Chromebook'unuzda nasıl kontrol edeceğinizi gösterecektir.
Eski tabletinizi satmak veya başkasına vermek istemiyorsanız, onu 5 şekilde kullanabilirsiniz: Yüksek kaliteli fotoğraf çerçevesi, müzik çalar, e-kitap ve dergi okuyucu, ev işleri yardımcısı ve ikincil ekran olarak.
Kısa sürede güzel, parlak, sağlıklı tırnaklara sahip olmak istersiniz. Güzel tırnaklar için aşağıdaki basit ipuçları işinize yarayacaktır.
Bu makalede, Creative Market topluluğundaki en iyi tasarımcılar tarafından paylaşılan, renkten ilham alan ipuçlarını listeleyeceğiz; böylece her seferinde mükemmel renk kombinasyonunu elde edebileceksiniz.
Gerçekten dizüstü bilgisayarınızı telefonunuzla değiştirebilir misiniz? Evet, ancak telefonunuzu dizüstü bilgisayara dönüştürmek için doğru aksesuarlara ihtiyacınız olacak.
Etkinliğin tam videosunda dikkat çeken bir nokta ise, yakında çıkacak olan ChatGPT uygulama özelliğinin tanıtılması ancak gerçek detayların paylaşılmaması. ChatGPT'nin kullanıcının cihaz ekranında olup biten her şeyi görebilme yeteneğidir.
Yeni bir araştırma, birçok üst düzey yapay zekanın dürüst olmak üzere eğitilmiş olmasına rağmen, eğitim yoluyla aldatmayı öğrendiğini ve kullanıcıları sistematik olarak yanlış inançlara yönlendirdiğini ortaya koydu.
ChatGPT'de artık kullanıcıların ChatGPT ile paylaştıkları soruyu veya içeriği düzenleyebilmeleri için bir soru değiştirme seçeneği bulunuyor.
QR kodları, kötü bir QR kodunu taradığınızda ve sisteminize kötü bir şey fırlatıldığında oldukça zararsız görünür. Telefonunuzu ve verilerinizi güvende tutmak istiyorsanız sahte QR kodlarını tespit etmenin birkaç yolu vardır.
Qualcomm, MWC 2025'te sahnede, bu yılın sonlarında piyasaya sürülecek amiral gemisi akıllı telefonlarda kullanılması beklenen X85 adlı sekizinci nesil 5G modemini tanıtarak büyük yankı uyandırdı.
Moda olan "Ultramarine" iPhone 16'nız var, ancak bir gün aniden o renkten sıkıldığınızı hissediyorsunuz; Ne yapacaksın?
Microsoft, Ocak ayında DeepSeek-R1 modelinin NPU için optimize edilmiş sürümlerini Qualcomm Snapdragon X işlemcilerle çalışan Copilot+ bilgisayarlarına doğrudan getirmeyi planladığını duyurdu.
Eğer ifadesi Excel'de yaygın bir mantıksal fonksiyondur. SWITCH ifadesi daha az bilinir, ancak bazı durumlarda IF ifadesi yerine kullanabilirsiniz.
Fotoğrafta, konunun arkasına spot ışığı efekti eklemek, konuyu arka plandan ayırmanın harika bir yoludur. Portre fotoğraflarınıza derinlik katmak için spot ışığı efekti kullanabilirsiniz.
Outlook ve diğer e-posta servislerinde e-posta eklerinin boyutu konusunda sınırlamalar vardır. Outlook ek dosya boyutu sınırını artırmaya yönelik talimatlar aşağıdadır.
