Derin öğrenme yöntemleriyle evrak sınıflandırılması

Yapay zekanın potansiyelinin keşfedilmeye başlanması ve teknolojinin gelişmesiyle birlikte bu alanda yapılan çalışmaların sayısı son yıllarda hızla artmıştır. Yapay zekanın işleri otomatikleştirmesi, hataları azaltması, işlem hızını arttırması, yeni çözümler keşfetmesi ve insanların işlerini kolaylaştırması gibi faydalarından dolayı bu alanda çalışmalar yapan araştırmacılar ve şirketler, yenilikçi çözümler geliştirmeye ve bu çözümleri piyasaya sürmeye çalışmaktadırlar. Yapay zekanın alt dallarından biri olan derin öğrenme, yapay sinir ağları olarak adlandırılan ağ yapılarını kullanarak veri setlerini inceleyen ve bu verilerden öğrenen bir yöntemdir. Bu alt dal, özellikle görüntü ses ve metin verilerinin sınıflandırılması gibi zor görevlerde etkin bir şekilde kullanılmaktadır. Evrak sınıflandırma, bir organizasyonun evraklarını belirli kategorilere göre sınıflandırma işlemini ifade eder. Bu işlem, evrakların daha kolay bulunması ve kullanılması için yapılır. Derin öğrenme yöntemleri, evrak sınıflandırma gibi zor bir görevin otomatikleştirilebilmesinde etkin bir şekilde kullanılabilir. Örneğin bir organizasyonun müşteri taleplerini içeren e-postalarını otomatik olarak sınıflandırılabilir ve bu e-postaları önem derecesine göre işleyebilir. Bu hem zaman tasarrufu açısından hem organizasyonlar açısından yararlı olabilir. Doğal dil işleme yöntemi, makine öğrenmesi modellerinden biridir ve metin sınıflandırma alanında oldukça başarılıdır. Tez çalışmasında NLP alanında BERT modeli kullanılarak çeşitli konulardaki haber metinlerinin metin analizi yapılmış ve elde edilen sonuçlar ortaya konmuştur. Çalışmada BERT modeline AdamW, SGD, RMSprop ve Adagrad gibi çeşitli optimizasyon algoritmaları uygulanmış bu algoritmaların karmaşıklık matrisine göre performansları değerlendirilerek duyarlılık, kesinlik, F1 skor ve doğruluk değerleri bulunmuştur. Test veri seti için metin sınıflandırma alanında en iyi BERT modeli optimizasyonun duyarlılık, kesinlik ve F1 skor için sırasıyla %94, %94, %94 değerleri ile AdamW olduğu belirlenmiştir. Bu çalışmanın amacı, literatürde doğal dil işleme başlığı altında Türkçe veriler üzerinde yapılan çalışmalara katkıda bulunmak ve doğal dil işlemenin Türkçe veriler üzerindeki başarısını ve sonuçlarını incelemektir.

Anahtar Kelime: Derin öğrenme = Deep learning ; Doğal dil işleme = Natural language processing ; Metin sınıflandırma = Text categorization