Inferact’a 150 Milyon Dolar Yatırım Alan vLLM’in Geliştiricisi, Dünya Teknoloji Pazarını Sallıyor
Yapay zeka dünyasında vLLM’in yaratıcıları tarafından geliştirilen Inferact adlı girişim, teknoloji alanında büyük bir çığır açıyor. Modellerin eğitilmesinin ötesinde, modellerin daha hızlı ve ekonomik bir şekilde çalıştırılması artık dikkatleri üzerine çekiyor.
Andreessen Horowitz (a16z) ve Lightspeed Venture Partners’ın liderlik ettiği tohum turunda Inferact’a 150 milyon dolarlık bir yatırım yapıldı. Bu yatırım, girişimin değerlemesini 800 milyon dolara yükseltti.
Inferact’in temelini oluşturan vLLM teknolojisi, yapay zeka modellerinin çıkarım aşamasında büyük bir yenilik getiriyor. Bu teknoloji, UC Berkeley kökenli olup, bellek yönetimini optimize ederek yapay zeka modellerinin daha verimli çalışmasını sağlıyor.
Şirketin CEO’su Simon Mo, vLLM’in Meta, AWS, Mistral AI, Nvidia ve Google gibi dev teknoloji firmaları tarafından kullanıldığını belirterek, Inferact’in misyonunu “yapay zekayı çalıştırmayı zahmetsiz ve ucuz hale getirmek” olarak açıklıyor.
Mo, vLLM’in açık kaynaklı ruhunu korumanın yanı sıra kurumsal müşteriler için daha ölçeklenebilir ve destek sunan ticari versiyonlar geliştireceklerini de sözlerine ekledi. Bu adımlarla Inferact, yapay zeka altyapısı verimliliği yarışında önde gelen isimlerden biri haline geliyor.
