IBM, önemli miktarda enerji tasarrufu sağlarken yapay zeka modellerinin "ışık hızında" eğitilmesini destekleyebilen yeni bir optik teknolojisini başarıyla geliştirdi. IBM, bu yeni buluşların veri merkezlerine uygulanmasıyla, tipik bir yapay zeka modelinin eğitilmesiyle tasarruf edilen enerjinin, ABD'deki 5.000 hanenin yıllık enerji kullanımına eşdeğer olduğunu söylüyor.
IBM'e göre, veri merkezleri dış dünyayla fiber optik kablolar kullanarak bağlantı kurarken, iç mekanlarda hala ağırlıklı olarak bakır kablolama kullanılıyor. GPU hızlandırıcılarını birbirine bağlayan bu bakır çekirdekli teller, güç kullanırken diğer cihazlardan veri beklemek için çok fazla zaman harcıyor ve bu da işletme maliyetlerini önemli ölçüde artırıyor. IBM Kıdemli Başkan Yardımcısı ve Araştırma Direktörü Dario Gil, yeni optik veri iletim teknolojisi hakkında şunları söyledi:
Yapay zeka daha fazla güç ve işlem gücüne ihtiyaç yarattıkça, veri merkezlerinin de gelişmesi gerekiyor. Genel paketlenmiş optik teknolojisi, büyük ölçekli veri merkezlerinin gelecekteki taleplere daha iyi uyum sağlamasına yardımcı olabilir. Bu atılımla, geleceğin işlemcileri, fiber optik kabloların veri merkezlerine veri taşıma ve veri merkezlerinden veri çıkarma yöntemiyle iletişim kuracak ve büyük yapay zeka iş yüklerini kaldırabilen, daha hızlı ve daha sürdürülebilir iletişimlerin olduğu yeni bir çağın kapılarını aralayacak.

IBM, yeni ortak paket optik (CPO) teknolojisi prototipini teknik bir makalede ana hatlarıyla açıklıyor . Temel olarak, veri merkezlerindeki bant genişliğini önemli ölçüde artırarak GPU kesinti süreleri en aza indirilebilir ve yapay zeka işlemleri hızlandırılabilir.
IBM, bu teknolojinin büyük dil modelleri (LLM) için eğitim süresini üç aydan üç haftaya kısaltmaya yardımcı olabileceğini güvenle vaat ediyor. Aynı zamanda enerji verimliliğinin artması enerji kullanımını azaltacak ve LLM eğitimiyle ilişkili maliyetleri düşürecektir.