Üretken Yapay Zeka ile Neler İnşa Ediyoruz?

ChatGPT gibi araçların kavramları özetleyebileceğini, takip sorularını yanıtlayabileceğini ve hatta kod yazabileceğini biliyoruz, ancak iş dünyasında çok daha fazla esnekliğe ihtiyacımız var. Özellikle kurumsal düzeyde, kurum içi verilerimizden öğrenebilecek ve yalnızca çalışanlara yanıt verebilecek modellere ihtiyacımız var. Peki yönetilmesi güç miktarda risk oluşturmadan bu teknolojiyi nasıl uygulayabilir ve bunun için en yaratıcı ve üretken kullanımları nasıl bulabiliriz?

Bu makalede, kendi çalışmamız olan NTT DATA Business Solutions’ı daha verimli hale getirmek ve yeni ürünler geliştirmek için üretken yapay zekayı nasıl kullandığımıza dair gerçek örnekleri paylaşacağız. Üretken yapay zeka hakkındaki bilinen önemli yanlışların bazılarını da paylaşacağız. Bu, kendi müşterilerimizden aldığımız soruların yanı sıra öngörülmesi o kadar kolay olmayan zorlukları da içerir.

Üretken yapay zeka anlayışımız ve onunla oluşturduğumuz araçlar sürekli gelişiyor. İşte üretken yapay zeka ve çok modelli büyük dil modellerini (LLM’ler) kullanan mevcut projelerimizden sadece üçü.

Daha iyi bir sürdürülebilirlik raporu oluşturmak

Şu anda AB’de yürürlüğe giren yeni CSRD (Kurumsal Sürdürülebilirlik Raporlama Yönergesi) ile işletmemizin ve diğer pek çok işletmenin sürdürülebilirliğini takip etmesi ve raporlaması gerekiyor. Amaç, ESG raporlamasını basitleştirmek ve standartlaştırmaktır, ancak CSRD hala karmaşıktır. Nicel ve nitel cevapların bir karışımını gerektiren 80’den fazla KPI içerir. Başka bir deyişle, enerji kullanımı ve CO2 emisyonları gibi verileri izlemenin yanı sıra, enerji tüketimimizi azaltmak için attığımız adımları özetlememiz ve iş gücümüzde cinsiyet eşitliğini kazanma girişimlerimizi açıklamamız gerekiyor.

Elbette, veri çözümleri sağlayıcısı olarak neredeyse tüm işletme bilgilerimiz bulutta depolanıyor ancak doğru verileri bulmak ve raporu hazırlamak yine de çok zaman alabiliyor. Bu yüzden bizim görevimiz bu süreci mümkün olduğunca verimli bir şekilde yürütmektir. Sonuçta, yönetime mümkün olduğunca az zaman harcamak ve sürdürülebilirliği geliştirmek için daha fazla zaman harcamak istiyoruz.

Çalışma düzenlemelerimiz daha esnek hale geldikçe, işe alım da daha karmaşık hale geldi. İşe alımdan sorumlu arkadaşımız üzerinde çok fazla baskı oluşturmaktan veya yeni işe alınan arkadaşlarımızı okuması gereken büyük belgelerle sıkmaktan kaçınmak için kardeş şirketimiz, onların sorularını yanıtlayacak bir dijital yardımcı pilot olan GoodGPT’yi kurdu. Sadece anahtar kelimeleri tarayabilen ve önceden yazılmış yanıtlar sunabilen geleneksel sohbet robotlarının aksine, GoodGPT ana dili anlar ve birbirini takip eden sorulara yanıt verir.

Bu araç yalnızca izin politikaları ve gider talepleriyle ilgili basit soruları yanıtlamak için değil, aynı zamanda uzun vadeli çalışanlar için de bir kaynaktır. Müşterilerimiz için uyguladığımız SAP yazılımı sıklıkla güncellenmektedir, bu da çalışanlarımızın eğitim ve uygulama arasındaki zamanı dengelemesini zorlaştırmaktadır. GoodGPT ile, uzun belgeler ve eğitim videoları arasında gezinmeden anında bir cevap bulmak için bir sohbet arayüzü kullanabilirler. Bu sadece küçük bir kolaylık değil; şirketlerin binlerce sayfalık eğitim belgeleriyle yükümlü oldukları için en maliyetli çalışanlarının devasa cirolarıyla boğuştuğunu duyduk.

Geliştiricilerimizin Üzerindeki Yükü Hafifletmek

Birçok müşteri ERP sistemlerini bulut tabanlı SAP S/4HANA’ya yükseltmemizi istiyor. Özel olarak oluşturulmuş bir platformu diğerine dönüştürürken, yalnızca yazılım karmaşık olduğu için değil, SAP S/4HANA temelde farklı olduğu için gözden geçirilmesi ve/veya yeniden yazılması gereken sayısız kod satırı vardır.

Bu ölçekte yazılım geçişleri genellikle yüzlerce saatlik mühendislik ve geliştirme süresi gerektirir. SAP, JAVA veya Python kadar yaygın olmayan bir dil olan ABAP’ta yazıldığı için çalışma da oldukça uzmanlaşmıştır.

Üretken yapay zeka sayesinde, çoğunlukla manuel olan bu görevler artık oldukça otomatiktir. Bünyemizdeki binlerce SAP dönüşümüyle, LLM’mizin analiz edebileceği eski ve yeni kod tabanlarından oluşan devasa bir kütüphanemiz var. Aracımız, her dönüşümde önceki ve sonraki kodu karşılaştırarak kalıpları bulabilir ve hangi kodun uygulanacağını öğrenebilir. Artık Mühendislerimiz kodun büyük bölümlerini yükleyebilir ve yeniden yazma işleminin çoğunu onlar adına yapabilir, geriye yalnızca kod doğrulama ve daha zorlayıcı/ödüllendirici problem çözme görevi kalır.

Şimdi size bazı örneklerle ilham verdiğimize göre, yapay zeka odaklı araçları kurumsal düzeyde uygulamadaki bazı zorlukları keşfedelim.

Doğru verilerle eğitim modelleri

ChatGPT, Gemini (eski adıyla Bard) ve diğerleri gibi sohbet tabanlı LLM’lerin şaşırtıcı derecede doğru yanıtlar sunduğu göz önüne alındığında, benzer bir aracın dahili olarak dağıtılmasının kutudan çıktığı anda aynı kaliteyi sağlayabileceğini düşünmek kolaydır. Ancak elbette bir model yalnızca öğrendiği veriler kadar doğru olabilir.

Ayrıca, aşağıdaki gibi soruları da dikkate almak zorunda kaldık:

• Verileri nasıl tarayacağız ve model için kullanılabilir hale gelmesini nasıl sağlayacağız?
• Belgeleri diğer dillerde yorumlamasına ve doğru bir şekilde çevirmesine güvenebilir miyiz?
• Verileri farklı para birimleri ve sayı biçimlerinde nasıl yorumlayacak?
• Hangi yazılım platformlarına ve protokollerine bağlarız? (CRM, ERP, E-posta …)

İyi tanımlanmış bir model kesinlikle güçlü olsa da, ne yazık ki iyi organize edilmiş, yapılandırılmış verilerin yerini tutamaz. Verilerden en iyi şekilde yararlanmak için güçlü veri yönetimi uygulamaları hala gereklidir. Bu nedenle, kullanıma hazır bir çözüm yerine özel bir uygulamayı takip etmenin daha iyi olduğuna inanıyoruz. Küçük proje ekiplerinden yönetim kuruluna kadar yapılması gereken birçok görüşme vardır ve standart bir SaaS ürünü kuruluşunuzun ihtiyaç duyduğu özelleştirmeye sahip olmayabilir.

Gizliliği koruma

Doğal olarak, LLM’lerin tüm dahili verilerimizi taramasına izin vermek istiyoruz, ancak dikkate alınması gereken sınırlamalar vardı.

• Maaş bilgilerini ve diğer hassas verileri taramasına izin veriyor muyuz? Bir kullanıcı ilgili bir soru sorduğunda bu bilgilerin sızmasını nasıl önleyebiliriz?
• Kullanıcılarımızdan gelen her sorgulamayı günlüğe kaydetmeli miyiz, yoksa sorgulamalar şifreli ve gizli mi olmalı?

Geliştirme sürecimizde, ilerleme isteği ile hassas bilgilerin korunması ihtiyacını dengelememiz gerektiği kısa sürede anlaşıldı. Ayrıca, kullanıcıları araca güvenmeye ve mümkün olduğunca kullanmaya teşvik etmek için çalışanların gözetiminden de ödün vermeyi tercih ettik. Başka bir uygulamada, her sorgunun günlüğe kaydedilmesi, etkileşimleri incelememize ve algoritmayı geliştirmemize olanak verebileceğinden daha değerli olabilir.

Yaratıcılığı ve bağımsızlığı koruma

Hepimiz navigasyon sistemlerine çok fazla güvenen ve kendini hiçliğin ortasında bulan sürücülerin hikayelerini duyduk. Google’a Apple Haritalar’a ve üretken AI sistemlerimize körü körüne güvenilemez. Kurumsal düzeydeki araçlar, sonuçlarını doğrulamaya yönelik bir yöntem olmadan çalışamaz, ancak bunun dikkatli bir şekilde tasarlanması gerekir, böylece bir yanıtı doğrulamak, onu eski moda yöntemle bulmak kadar uzun sürmez.

Benzer şekilde, hiçbir araç yaratıcılığın yerini tutmamalıdır. Üretken Yapay zeka, örneğin bir blog gönderisini göstermek için görüntü oluşturma hizmetlerini kullanarak mevcut fikirlerimizi geliştirebilir. Ya da ilham almak için bir fikir listesi sağlayabilir, ancak liderlik eden şirketler bu çıktıyı yalnızca bir başlangıç noktası olarak kullanacaktır. Unutmayın, bir genAI aracı bir cümle yazdığında, yalnızca bir sonraki en olası kelimeyi tahmin ederken, bir görüntü oluşturucu bize belirli anahtar kelimelerle etiketlenmiş görüntülerde hangi renkli pikselin diğerinin yanında en sık göründüğünü gösterir. Bu araçlar ortalama düzeyde mühendislerdir. Palet kahverengiye dönene kadar tüm boyalarımızı karıştırmaktan memnun olmadığımız sürece insan müdahelesi çok önemlidir.

Mevcut önyargıları güçlendirme

Yapay zekanın tarihsel önyargıları pekiştirme riski hakkında çok şey söylendi. Netflix belgeseli Coded Bias ve The A.I. Dilemma iyi başlangıç ​​noktalarından bazılarıdır. The Center for Humane Technology’nin 2023 tarihli bir sunumu olan The A.I. Dilemma, Biden yönetimini yapay zeka yönetim emrini yayınlamaya ve düzenleme seçeneklerini araştırmaya sevk etti. Özetle, yapay zeka destekli sistemlerin üzerinde eğitim aldıkları verilerin önyargılarını yansıttığını anlamak çok önemlidir. Tüm umutlarımızı bunu sistemlerimizden tasarlamaya bağlamak yerine, sorumluluğumuz yine de çıktıya eleştirel bir insan gözü uygulamaktır.

Üretken yapay zeka ile ilgili yanılgılar

Daha pratik düzeyde konuşursak, genAI maalesef bir uygulama indirerek veya bir SAAS aracına abone olarak (en azından kurumsal düzeyde) kolayca uygulanabilecek bir teknoloji değildir, ancak beklediğinizden daha basit olabilecek unsurlar vardır.

LLM’lerin kara kutu olması gerekmez

Bir yanıt oluşturmak için kullanılan kesin süreç belirlenemese de bu, LLM’lerin kaynak sağlama konusunda yetersiz olduğu anlamına gelmez. Sürdürülebilirlik raporu örneğimizde detaylandırdığımız gibi, bilgi kaynağına atıfta bulunmak tamamen mümkündür. Ayrıca, bir çözüm özel olarak oluşturulduğunda, algoritmalar ve eğitim verileri özel varlıklar olmaktan ziyade bilinir ve kuruluşa aittir.

GenAI araçları önemli bir yatırımdır

Kurumsal işletmeler, çok sayıda yetenekli teknik personele sahip olma eğilimindedir. Mevcut insan kaynaklarını mümkün olduğu kadar kullanmanın en iyisi olduğuna inanıyoruz, örneğin kuruluşunuz zaten veri tabanları oluşturma veya bir LLM eğitimi konusunda oldukça yetkin olabilir. Benzer şekilde, teknik bir kişiyi şirket içinde istihdam etmek her zaman mantıklı değildir. Belki de bir Python Geliştiricisini işe almak yerine, kuruluşunuz Python üzerinde çalışan bir SAAS’a abone olmak için daha iyi bir konuma sahip olacaktır. Yatırım, verileri LLM’lerin tam olarak anlayabileceği şekilde yeniden yapılandırabilen bir Veri Bilimcisine yapılabilir. Bu stratejik kararlar maliyet üzerinde önemli etkiler yaratabilir.