Üretken Yapay Zeka alanında yaşanan büyük değişimin kısa özeti

2023’te tüketici pazarını kasırga gibi etkisi altına alarak rekor sürede rekor kullanıcı sayısına ulaşan üretken yapay zeka fırsatlarının 2024’te kurumsal alanda katlanarak arttığını gözlemlediğimiz şu günlerde bazı kötümserler, üretken yapay zekanın hiç ölçeklenemeyeceğini savunurken, biz CBOT olarak GPT 2.0 dan itibaren takip ettiğimiz bu alanda alanında sürdürdüğümüz AR&GE çalışmalarımızın sonuçlarını büyük bir başarı ile aldık.

Hem var olan etkili global LLM – Geniş Dil Modellerine hem de kurumların kendi sunucularında çalıştırdığımız CBOT LLM’e entegre çalışan CBOT GPT modülünü iş ortaklarımızın hizmetine sunduk.

CBOT’un üretken yapay zeka alanındaki ürün gelişim stratejisini belirleyebilmek adına diyaloğa dayalı yapay zeka alanında iş ortaklığı yaptığımız her biri alanında lider olan müşterilerimiz ile 2024’ün ilk altı ayında görüşmeler yaptık ve yaklaşımlarını anlamaya çalıştık; GenAI alanındaki tutumun son altı ayda ne kadar önemli ölçüde değiştiğine tanık olduk.

CBOT bakış açısı ile Üretken Yapay Zeka alanında yaşanan büyük değişimin kısa özetini sizler ile paylaşıyoruz.

Keyifle okumanız dileğiyle.

Liderlerin, üretken yapay zekayı kullanmak konusunda başlangıçta yaşadıkları tereddütlerin yerini artık merak almış durumda.

Liderlerin, üretken yapay zekayı kullanmak konusunda başlangıçta yaşadıkları tereddütlerin yerini artık merak almış durumda. Liderler, açık kaynaklı modeller kullanılarak uygulanan alanların sayısını artırıyor, deneme aşamalarındaki projeleri canlıya alıyor ve bütçelerini artırıyorlar.

Kurumsal şirketlerin çoğu, üretken yapay zekayı uygulamak ve ölçeklendirmek için gereken bilgi ve doğru teknik yeteneklere henüz sahip değil.

CBOT olarak üretken yapay zekayı kurumsal çözümlerde kullanmak için yalnızca bir model sağlayıcı API’ye sahip olmanın yeterli olmadığını anlatmak için ekosistemdeki tüm paydaşlar olarak ciddi sayıda bilgilendirme toplantıları yapıyoruz. Başarılı sonuçlar alabilmek için altyapı bileşenlerini doğru kurgulamak, bakımını yapmak, ölçeklendirmek, raporlamak için sadece platformlara değil aynı zamanda uzmanlaşmış yeteneklere de ihtiyaç var.

Bu ihtiyaca yanıt olarak, CBOT olarak iş ortaklarımızın kendi GenAI modellerini eğitmelerine ve projelerine destek olmalarına yardımcı olmak amacıyla özel bir ekip oluşturduk. Bu ekip, mevcut modellerin uygulanmasıyla sınırlı kalmayıp, aynı zamanda CBOT LLM ile şirketlere özel model geliştirme konusunda profesyonel hizmetler de sunuyor.

Kaynak Kullanımı: Bütçeler Hızla Artıyor ve Daha Kalıcı Yazılım ve Lisans Kalemlerine Tahsis Ediliyor.

2023 yılında, temel model API’ları ile gerçekleştirilen GenAI denemeleri bize oldukça ilginç ve umut verici sonuçlar gösterdi. Düşük bütçelerle yürütülen bu çalışmaların ardından, 2024 yılına girdiğimizde birçok şirketin GenAI projelerine yönelik kaynaklarını artırdığını gözlemliyoruz. Özellikle CBOT Platform üzerinde hibrit NLP + LLM yapıları kullanılarak geliştirilen projeler dikkat çekiyor. Şirketlerin GenAI harcamaları geçtiğimiz yıla göre 2 ila 5 kat artmış durumda ve bu yatırımların karşılığını fazlasıyla alacaklarına inanıyoruz.

2023’teki GenAI harcamalarının çoğunluğu, “yenilik” bütçeleri ve “tek seferlik” fonlardan sağlandı. Bu çok da şaşırtıcı değil, çünkü ilk etapta herkes denemek ve sonuç görmek istiyor. Ama 2024’e geldiğimizde durum biraz değişti; artık birçok lider bu harcamaları kalıcı yazılım, lisans ve operasyon bütçelerine kaydırıyor.

Biz, CBOT olarak, 2025 yılına geldiğimizde GenAI harcamalarının yalnızca küçük bir kısmının yenilik bütçelerinden geleceğini öngörüyoruz, henüz yatırım yapmamış liderlerin bu konuda kararlarını vermeleri ise artık oldukça önemli.

Liderlerin GenAI bütçeleri özellikle verimlilik ve maliyet tasarruf sağlama amacını güdüyor.

2024’te birçok liderin GenAI bütçelerini, personel maliyetlerini azaltmak için müşteri hizmetlerine yönlendirdiğini fark ediyoruz. Bu trend, GenAI’nin kullanım alanlarını hızla genişletiyor ve gelecekte neler olabileceğine dair bize heyecan veriyor. LLM destekli müşteri hizmetlerinde, her çağrıda sağlanan tasarrufun doğru stratejilerle yüzde 90’a kadar çıkabileceğini tahmin ettiğimiz için bu alanda ARGE yatırımlarımızı artırdık.

CBOT GPT modülü içerisinde geliştirdiğimiz “AI CoWorkers” özelliği sayesinde sadece müşteri hizmetleri alanında değil pek çok farklı alanda üretken yapay zeka tabanlı çalışanların hayata geçirilmesini mümkün kıldık.

İşte bazı kullanım senaryolarından örnekler;

ROI’nin rolü giderek daha belirgin hale geliyor

Liderlerin, yapay zekanın sağladığı üretkenlik artışının ROI hesaplamalarına her geçen gün daha çok odaklandıklarını sıkça görüyoruz. NPS ve müşteri memnuniyeti gibi göstergeler konusunda kafalarında bazı soru işaretleri olsa da, daha somut olan gelir artışı, maliyet tasarrufu ve verimlilik gibi sonuçları değerlendirmek için daha için daha net ve kesin yöntemler arayışındalar.

Bizce, önümüzdeki 2-3 yıl içinde ROI’nin önemi daha da artacak ve liderler, yapay zeka projelerini hayata geçirirken bu ölçütün rolü giderek daha belirgin hale gelecek. Bu süreçte, çalışanların zamanlarını daha verimli kullandığını ifade etmeleri ise en önemli pozitif gösterge olacak.

Modeller: Kurumlar, çoklu model ve açık kaynak dünyasına doğru eğilim gösteriyorlar.

2024’e girerken, çoğu kurumsal şirket genellikle tek bir modelle veya en fazla iki modelle, genellikle OpenAI’ınkilerle, denemeler yapıyordu. Bugün ise şirket liderleri, birden fazla modeli test etmeyi ve bazılarını üretim ortamında çoklu şekilde kullanmayı arzu ediyorlar. Ve teknolojideki hızlı değişimle birlikte en güncel modelleri ve açık kaynak çözümlerini test etmek, gerektiğinde hızlıca değiştirebilmek ve en yüksek verimi elde etmek nihai hedef.

Yaptığımız görüşmeler, liderlerin açık kaynak modellere olan ilgisinin giderek arttığını açıkça gösteriyor. Kurumlar, özel ihtiyaçlarına göre uyarlanmış açık kaynaklı modellerin kapalı kaynaklı modellere benzer performans sunduğunu gördüklerinde, açık kaynak kullanımı veya bu modellere geçiş yapma konusunda daha istekli hale geliyorlar. Bu durum, önümüzdeki dönemlerde açık kaynak kullanımında büyük bir artış olacağına işaret ediyor.

2023 itibarıyla GenAI projelerinin yüzde 80’inin kapalı, yüzde 20’sinin açık kaynak kodlarıyla yürütüldüğünü görüyoruz. Gelecekte ise bu dengenin yüzde 50 kapalı, yüzde 50 açık kaynak olacak şekilde eşitleneceğini öngörüyoruz.

Şu anda, Microsoft partneri CBOT olarak, projelerimizin çoğunu beklenildiği üzere pazar lideri Azure OpenAI ve OpenAI modelleriyle hayata geçiriyoruz. Ancak, CBOT Platform’un GPT Modülü, gelecekte daha fazla modelin yaygınlaşacağı ve açık kaynak model eğitim taleplerinin artacağı öngörüsüyle tasarlandı. Bu sayede, kullanıcılarımıza model seçimi konusunda tam esneklik sunmayı hedefliyoruz.

Kontrol isteği, hassas kullanım durumları ve kurumsal veri güvenliği endişeleri

Kontrol ve özelleştirme taleplerinin, açık kaynak kullanımını teşvik eden ana faktörler olduğunu gözlemliyoruz; bu durum, hazır çözümlerin sunduğu maliyet avantajının eskisi kadar ön planda olmadığını gösteriyor. Kurumlar, özel verilerin güvenliğini sağlamak, modellerin belirli çıktılar üretme nedenlerini anlamak ve spesifik kullanım senaryolarına göre hassas ayarlamalar yapabilmek için gereken adımları atmaya hazır. “Güvenli bir ortamda doğru yanıtı almak, yapılan harcamaların karşılığını fazlasıyla verir” yaklaşımı, liderlerin karşılaşacakları maliyetleri göze alarak hareket etmelerini sağlıyor.

Özellikle banka, kamu gibi regülasyonlarla sıkı denetim altında olan kurumlar ve IP’si iş modelinin merkezinde olan şirketler, veri güvenliği endişeleri nedeniyle özel verilerini kapalı kaynak model sağlayıcılarıyla paylaşmaktan çekiniyor. Bu kurumlar, hassas verilerini daha güvenli bir ortamda koruma ihtiyacını her zaman öncelikli görüyor ve bu yüzden muhafazakâr bir tutum sergiliyorlar.

CBOT olarak bu gibi güvenlik hassasiyeti olan kurumlarda iki farklı yöntem ile hareket ediyoruz.

1- CBOT LLM

Açık kaynaklı modellerin kuruma özgü özelleştirilerek, yüzde yüz dışarıya kapatılarak on-premise kurulması.

Detaylı bilgi için tıklayın.

2- CBOT Veri Kontrolü CoWorker

On-premise ortamda kurulu olan sistemden kapalı kaynak modele gidecek olan veri gönderilmeden önce bir kontrol noktası ile gitmesi sakıncalı olan verinin tespit edilerek maskelendikten sonra gönderilmesi ya da gönderiminin engellenmesi.

Liderler çoğunlukla modelleri tamamen yeniden tasarlamak yerine, mevcut olanları düzenleyerek kişiselleştiriyorlar.

2023 yılında, OpenAI’in GPT-4’ü ve Meta’nın LLaMA gibi özel yapay zeka modelleri, sektörde büyük yankı uyandırarak tartışmaların merkezine oturdu. Bu projeler, büyük dil modellerinin ne kadar güçlü olabileceğini gösterdi ve şirketlerin yapay zeka yatırımlarına yön vermelerinde belirleyici bir etki yarattı.

2024’e geldiğimizde ise, kurumların hala yapay zeka modellerini özelleştirme konusunda istekli olduklarını görüyoruz. Ancak, yüksek kaliteli açık kaynak modellerin hızla yaygınlaşmasıyla birlikte, birçok şirketin kendi büyük dil modellerini sıfırdan eğitmek yerine, mevcut modelleri kendi ihtiyaçlarına uygun şekilde uyarlamayı tercih ettiği aşikar. Bu bağlamda, Retrieval-Augmented Generation (RAG) gibi yöntemlerle açık kaynaklı modellerin verimliliği artırılarak belirli alanlarda daha güçlü performans elde ediliyor. Özellikle Hugging Face gibi platformlar üzerinden sunulan modellerin kurumlar tarafından özelleştirilmesi yaygın bir strateji haline geldi.

Bizim öngörümüz, bu trendin 2024 ve sonrasında da devam edeceği yönünde. Şirketlerin, sıfırdan model geliştirmek yerine, mevcut modelleri optimize ederek kendi ihtiyaçlarına uyarlama yolunu seçmeye devam edeceğini düşünüyoruz. Bu strateji, zaman ve maliyet avantajı sağlarken, daha hızlı ve etkili çözümler sunma fırsatı yaratıyor.

Görüştüğümüz karar vericiler, yapay zeka model tercihlerinde genellikle akıl yürütme yeteneği, güvenilirlik ve bulut tabanlı erişim kolaylığı gibi özellikleri ön planda tutuyor. Ancak, farklı avantajlar sunan modellere de açık olduklarını belirtiyorlar.

CBOT olarak, yapay zeka modellerinin özelleştirilmesi konusunda Türkiye’nin en deneyimli ekibini oluşturduk. 2019 yılından bu yana NLP ve Derin öğrenme tabanlı yapay zeka alanındaki liderliğimizi, üretken yapay zeka alanında da sürdürüyoruz. Akademik çevrelerle kurduğumuz sağlam iş birlikleri sayesinde, en güncel teknolojileri projelerimize başarıyla entegre edebiliyoruz.

Çoğu modelin performansları birbirine yaklaştı, model değişikliklerini saniyeler içinde gerçekleştirebilmek önem kazandı.

CBOT olarak, tüm modellerle yaptığımız testlerde dikkate değer sonuçlara ulaştık. Ekosistemde modeller sıkça genel performans ölçütlerine göre değerlendirirken, biz hem açık kaynaklı hem de kapalı kaynaklı modelleri kendi belirlediğimiz kriterlere göre karşılaştırdık.

Kapalı kaynaklı modeller, dış testlerde genellikle daha iyi sonuçlar verse de, biz açık kaynaklı modellere yüksek puan verdik çünkü bu modeller, belirli ihtiyaçlara daha kolay uyarlanabiliyor. Örneğin, Mistral ve LLaMA’nın uyarlanmış versiyonlarının bazı alanlarda OpenAI kadar iyi performans gösterdiğini gözlemledik. Bu, model performanslarının birbirine yaklaştığını ve daha geniş bir yetenekli model yelpazesinin oluştuğunu bize gösteriyor.

CBOT Platformu ile projelerde saniyeler içinde model değişikliği yapma imkanı sunuyoruz. Bu sayede, yeni çıkan modelleri hızlıca test edebiliyor ve çeşitli ihtiyaçlara en uygun olanı anında devreye alabiliyoruz. CBOT olarak, modeller arasında geçişi yalnızca bir API değişikliği ile yapılacak şekilde tasarladık. Bu da değişikliklerin hızlı ve sorunsuz bir şekilde gerçekleşmesini sağlıyor. Ayrıca, “model bahçeleri” oluşturarak farklı ihtiyaçlara uygun modelleri depoladık; bu sayede sağlayıcı bağımlılığını azaltırken, pazardaki yeniliklere esnek bir şekilde uyum sağlama yeteneği kazandık.

Artık Potansiyel Performans’a Dönüşüyor : Daha Fazlası Üretime Geçiyor

Üretken yapay zeka teknolojisiyle yeni tanışanların, başlangıçta GenAI projelerini hayata geçirmek için platformları satın almak yerine kendi kaynaklarıyla kod yazmaya odaklandığını gördük ha da görüyoruz. Kurumlar, teknolojinin sınırlarını tam olarak bilmedikleri gibi, kurumsal platformlar üzerinde yeterli başarı örneği de bulamayınca platformları satın almaktan çekindiler ve haklı olarak bu yöne gittiler.

Bunun eğilimin temel nedeni, “Temel modeller ve API’ler sayesinde kendi yapay zeka uygulamalarımızı oluşturmak artık daha kolay” algısının yaygınlaşmasıydı. Ancak, bu projelerde harcanan zaman ve çabanın çoğu zaman beklenen sonuçları vermediği anlaşıldı.

Sonuçta, sadece “LLM + UI” yaklaşımının ötesine geçerek kurumsal iş akışlarını yeniden şekillendiren, özel verileri daha etkin kullanan CBOT Platform gibi uygulamaların süreci ne kadar kolaylaştırdığını fark ettiler. Bu farkındalıkla, potansiyeli gerçek performansa dönüştürmek isteyenler, özellikle özel verilerin güvenli bir şekilde kullanılması, iş akışlarının hızlanması ve modeller arası geçiş esnekliği gibi özellikler nedeni ile platform çözümleri tercih etmeye başladılar.

Kurumlar, önce iç kullanımda test edip sonrasında dış kullanım için harekete geçmeyi tercih ediyorlar.

CBOT olarak, kurumların GenAI teknolojisini önce iç süreçlerde denemeye, sonrasında dış kullanım senaryolarına yönelmeye eğilimli olduklarını görüyoruz. Bu yaklaşımın ardında iki önemli endişe var: İlki, GenAI’nin halüsinasyon ve güvenlik açıkları yaratma riski; ikincisi ise sağlık ve finans gibi hassas sektörlerde, bu teknolojinin halkla ilişkiler açısından yaratabileceği olumsuz etkiler.

2024 yılının ilk üç çeyreğinde, taleplerin çoğunu iç verimlilik artırıcı uygulamalar ve insan müdahalesinin kritik olduğu alanlarda karşıladık. Örneğin, çalışan deneyimini iyileştirmek için geliştirdiğimiz yapay zeka tabanlı kişisel asistanlar, çalışanların günlük görevlerini ve toplantılarını daha verimli yönetmelerine yardımcı oldu. Ayrıca, “AI CoWorkers” adını verdiğimiz dijital çalışanlar, süreç otomasyonu projelerinde tekrarlayan görevleri otomatikleştirerek operasyonel verimliliği ciddi şekilde artırdı.

Bu deneyimler, şirketlerin GenAI teknolojisini dış projelerde kullanırken olası sorunları önlemek için daha dikkatli olmaya istekli olduklarını gösteriyor.

Son Söz: Pazar Büyüklüğü Muazzam Hızla Büyüyor

CBOT olarak, GenAI model API’larına ve uyarlamalara yapılan toplam harcamanın 2025 yılında önemli bir büyüme göstereceğini öngörüyoruz. Bu, mevcut pazarın genişleme potansiyelinin yüksek olduğunu ve kurumların bu alandaki yatırımlarının hızla arttığını işaret ediyor.

Özellikle 2024 üçüncü çeyrekte, şirketlerin GenAI çözümlerini keşfetme ve uygulama konusundaki hızlarının arttığını gözlemledik. Projelendirmeler ve anlaşmalar artık çok daha kısa sürede sonuçlanıyor ve bu anlaşmalar daha büyük ölçeklere ulaşıyor.

Kurumlar, GenAI’nın sağladığı fırsatları en iyi şekilde değerlendirmek için bütçelerini genişletiyor ve çeşitli modellerle uygulama stratejilerini yeniden yapılandırıyor. 2025 yılı sonrasında da bu eğilimin devam edeceğini ve üretim süreçlerinde daha da fazla ilerleme kaydedileceğini tahmin ediyoruz.

Bu hızlı gelişen pazar, temel model katmanının ötesine geçerek, uyarlama hizmet ve araçlarından model sunucularına, uygulama geliştirme süreçlerinden özel AI uygulamalarına kadar geniş bir yelpazeyi kapsıyor.

CBOT olarak, bu dinamik ve büyüyen pazarın sunduğu yeni fırsatları değerlendirmek için siz iş ortaklarımıza katkı yapmaktan büyük bir heyecan duyuyoruz. Bu alandaki kapsamlı uzmanlığımız ve deneyimimiz sayesinde, sizlere en kaliteli çözümleri sunma konusundaki kararlılığımızı sürdürüyoruz.

Pegasus Seyahat Asistanı (GenAI) – Müşteri Hikayesi