LLM Verimliliği Araştırmacısı · Makine Öğrenmesi Mühendisi LLM Efficiency Researcher · Machine Learning Engineer
LLM verimliliği üzerine çalışıyorum: büyük dil modellerini nicemleme, speculative decoding ve çıkarım optimizasyonuyla daha hızlı ve daha hafif hale getirmek. Yanında RAG sistemleri ve mekanistik yorumlanabilirlik. I work on LLM efficiency: making large language models faster and lighter through quantization, speculative decoding and inference optimization — alongside RAG systems and mechanistic interpretability.
(1) Latince · düsturLatin · motto
Docti et feri esse debemus.
‘Bilgili ve vahşi olmalıyız.’‘We must be learned and wild.’
§1
asıl problem: LLM verimsizliğithe real problem: LLM inefficiency
Araştırma sorularını tekrarlanabilir sistemlere dönüştürmeyi seviyorum. I like turning research questions into reproducible systems.
Konya Teknik Üniversitesi Bilgisayar Mühendisliği tezli yüksek lisans öğrencisi ve sektör deneyimine sahip bir makine öğrenmesi mühendisiyim. Veri toplama ve ön işlemeden modellemeye, değerlendirmeye ve canlıya almaya kadar uçtan uca makine öğrenmesi süreçlerinde güçlü uygulama deneyimim var. Çalışmalarım NLP ve büyük dil modelleri (LLM), bilgi erişimi (RAG), mekanistik yorumlanabilirlik ve model verimliliği (nicemleme, optimizasyon) alanlarını kapsıyor.
TEKNOFEST finaline kalan bir hukuk NLP asistanı, RoPE’nin mekanistik yorumlanabilirliği üzerine bir arXiv makalesi, Türkçe LLM’lerde nicemleme üzerine hakemli bir dergi makalesi, iki optimizasyon çalışması ve Hugging Face üzerinde açık kaynak modeller bunlardan bazıları.
I am a thesis-track M.Sc. student in Computer Engineering at Konya Technical University and a machine learning engineer with industry experience. I have strong hands-on experience across the end-to-end ML lifecycle — from data collection and preprocessing to modeling, evaluation and deployment. My work spans NLP and large language models (LLMs), information retrieval (RAG), mechanistic interpretability and model efficiency (quantization, optimization).
A legal NLP assistant that reached the TEKNOFEST finals, an arXiv paper on the mechanistic interpretability of RoPE, a peer-reviewed journal article on quantization in Turkish LLMs, two optimization studies and open-source models on Hugging Face are some of them.
Güncel araştırma odağı · tezli yüksek lisansCurrent research focus · M.Sc. thesis track
Büyük dil modellerini kısıtlı kaynaklarda hızlı, hafif ve doğru çalıştırmak: doğruluk, hız ve bellek arasındaki dengeleri ölçmek ve optimize etmek.
Running large language models fast, light and accurate under constrained resources: measuring and optimizing the trade-offs between accuracy, speed and memory.
Dikkat head’lerinin uzun bağlamda bilgiyi nasıl geri çağırdığını nedensel deneylerle incelemek.
Studying, through causal experiments, how attention heads retrieve information over long contexts.
RoPE × Retrieval Heads · arXiv, 2026 IIIRetriever, re-ranker ve önbellekten oluşan erişim hatlarını sistematik ablasyonlarla tasarlamak ve değerlendirmek.
Designing and evaluating retrieval pipelines — retriever, re-ranker and cache — through systematic ablations.
Kurumsal RAG hattı · Enm DigitalEnterprise RAG pipeline · Enm Digital§2
dört cephefour fronts
i.
Model sıkıştırma (nicemleme, budama), çıkarım optimizasyonu, ölçeklenebilir dağıtım ve uyarlanabilir optimizasyon.
Model compression (quantization, pruning), inference optimization, scalable deployment and adaptive optimization.
ii.
Denetimli/denetimsiz öğrenme, model seçimi, performans değerlendirme ve deney tasarımı.
Supervised/unsupervised learning, model selection, performance evaluation and experimental design.
iii.
Metin madenciliği, bilgi çıkarımı, Erişimle Zenginleştirilmiş Üretim (RAG), mekanistik yorumlanabilirlik, alana özgü NLP (hukuk, tıp).
Text mining, information extraction, Retrieval-Augmented Generation (RAG), mechanistic interpretability, domain-specific NLP (legal, medical).
iv.
Uçtan uca veri hattı tasarımı, öznitelik mühendisliği, A/B testleri ve bulguların paydaşlara aktarılması.
End-to-end data pipeline design, feature engineering, A/B testing and communicating findings to stakeholders.
§3
1 hakemli + 3 ön baskı1 peer-reviewed + 3 preprints
arXiv:2606.21249
Döner Konum Gömmeleri (RoPE) ile retrieval head’ler arasındaki ilişkiye dair, beş açık ağırlıklı 7–8B model (OLMo-2, Qwen2.5, LLaMA, Gemma-2, Mistral) üzerinde nedensel, mekanistik bir çalışma: eşleştirilmiş tohumlu needle-in-a-haystack testleri, katman kümeli permütasyon ve nedensel head maskeleme.
A causal, mechanistic study of the relationship between Rotary Position Embeddings (RoPE) and retrieval heads across five open-weight 7–8B models (OLMo-2, Qwen2.5, LLaMA, Gemma-2, Mistral), using paired-seed needle-in-a-haystack tests, layer-clustered permutation and causal head masking.
Retrieval head’ler uzun bağlamda hatırlama için nedensel olarak zorunlu: OLMo-2’de 87 head maskelendiğinde hatırlama 1,00’dan 0,00’a düşüyor.
Retrieval heads are causally necessary for long-context recall: masking 87 heads in OLMo-2 drops recall from 1.00 to 0.00.
Daha yüksek RoPE θ retrieval head sayısını azaltmıyor — önleme hipotezi çürütüldü.
A higher RoPE θ does not reduce the number of retrieval heads — the prevention hypothesis is refuted.
En düşük frekanslı RoPE boyutlarının sıfırlanması hatırlamayı doza bağlı biçimde düşürüyor: 32/128 boyutta 1,00 → 0,18.
Zeroing the lowest-frequency RoPE dimensions degrades recall in a dose-dependent way: 1.00 → 0.18 at 32/128 dims.
Quantization Trade-offs in Turkish LLMs: An Evaluation of Accuracy, Speed and Memory Usage
Veri Bilimi Dergisi, 8(2), 70–80
Bir Türkçe LLM üzerinde eğitim sonrası, yalnızca ağırlık nicemlemenin (INT8/INT4) sistematik deneysel analizi. INT4, kısıtlı kaynaklı ortamlarda bellek verimliliği ile kabul edilebilir doğruluk arasında dengeli bir seçenek; INT8 bazı sınıflandırma görevlerinde rekabetçi doğruluğu koruyabiliyor, ancak donanım/yazılım yapılandırmasına bağlı olarak hız dezavantajı gösterebiliyor.
A systematic experimental analysis of post-training, weight-only quantization (INT8/INT4) on a Turkish LLM. INT4 offers a balanced option between memory efficiency and acceptable accuracy in resource-constrained settings; INT8 can retain competitive accuracy on some classification tasks but may show a speed penalty depending on the hardware/software configuration.
Adam ailesi optimize ediciler için, eğitim platosunun türünü SNR güdümlü gradyan istatistikleriyle teşhis eden ve geometriye uyarlanmış kosinüs öğrenme oranı sıçramalarıyla yanıt veren bir sarmalayıcı; ilgi bölgesi (ROI) belleği sonraki taban seçimini yönlendiriyor. Zamanlamaya özgü hiperparametre ayarı gerektirmiyor; CIFAR-100 ve STL-10’da yalın Adam’ı +3,8 yp geride bırakıyor.
A wrapper for Adam-family optimizers that diagnoses the type of training plateau from SNR-driven gradient statistics and responds with geometry-adapted cosine learning-rate bursts; a region-of-interest (ROI) memory guides subsequent base selection. Needs no schedule-specific hyperparameter tuning and beats vanilla Adam by +3.8 pp on CIFAR-100 and STL-10.
Eğitim platolarından kaçmak için Adam üzerine kurulu, doğrulama güdümlü bir yerel arama yöntemi. En iyi doğrulama kaybı ve doğruluk 8 veri setinin 6’sında iyileşti (ort. Δkayıp ≈ 0,0172; Δdoğruluk ≈ 0,49 yp). Deney tasarımı, ablasyon çalışmaları ve çok sayıda veri seti üzerinde titiz nicel değerlendirme.
A validation-driven local search method built on Adam to escape training plateaus. Best validation loss and accuracy improved on 6 of 8 datasets (avg. Δloss ≈ 0.0172; Δacc ≈ 0.49 pp). Experimental design, ablation studies and rigorous quantitative evaluation across many datasets.
§4
kodlar GitHub'dathe code is on GitHub
TEKNOFEST · Finalist
TEKNOFEST finaline kalan, hukuk alanına özgü bir doğal dil işleme asistanı.
A domain-specific legal NLP assistant that reached the TEKNOFEST finals.
GitHubTTS · Ses klonlamaVoice cloning
Türkçe ses klonlama çalışması — kod GitHub’da, model Hugging Face’te açık kaynak.
Turkish voice cloning — code on GitHub and model on Hugging Face, both open source.
KodCode ModelMekanistik yorumlanabilirlikMech. interpretability
Beş model ailesi için eşleştirilmiş tohumlu, tekrarlanabilir deney altyapısı ve kodun tamamı.
Full code and paired-seed, reproducible experiment infrastructure across five model families.
GitHubOptimizasyonOptimization
Adam ailesi için plato farkındalıklı, uyarlanabilir öğrenme oranı sarmalayıcısı.
A plateau-aware, adaptive learning-rate wrapper for Adam-family optimizers.
GitHubHugging Face
Hugging Face üzerinde yayımladığım açık kaynak modeller.
Open-source models I have published on Hugging Face.
Hugging FaceYazılarWriting
Medium’daki yazılarım.
My writing on Medium.
Medium§5
tez yoldathesis under way
Eyl 2026 — DevamSep 2026 — Present
Konya Teknik Üniversitesi, Lisansüstü Eğitim Enstitüsü Konya Technical University, Graduate School · Konya
Araştırma odağıResearch focus Büyük dil modellerinde verimlilik (nicemleme, speculative decoding), RAG sistemleri ve mekanistik yorumlanabilirlik. Efficiency in large language models (quantization, speculative decoding), RAG systems and mechanistic interpretability.
2020 — 2025
Manisa Celal Bayar Üniversitesi Manisa Celal Bayar University · Manisa
Eğitim dili İngilizce. Kapsamlı müfredatın yanı sıra veri bilimi, makine öğrenmesi ve NLP alanlarında bireysel projeler.
Language of instruction: English. Individual projects in data science, machine learning and NLP alongside the core curriculum.
§6
2023 → 20262023 → 2026
Ara 2025 — May 2026Dec 2025 — May 2026
Mergenova Yazılım · İzmir
Şub — Ağu 2025Feb — Aug 2025
Enm Digital · Manisa
Ağu — Eyl 2023Aug — Sep 2023
ASELSAN Konya · Konya
§7
aletlerthe toolbox
§8
yaz, cevap veririmwrite — I answer
Birlikte bir şeyler inşa edelim. Let’s build something together.
Araştırma iş birlikleri, NLP/LLM projeleri ya da sadece bir sohbet için yazabilirsiniz. Reach out for research collaborations, NLP/LLM projects or just a conversation.
!!! ispatı gerekmeyen tek aksiyomthe one axiom that needs no proof