Transformer

GPT, BERT, Claude ve Gemini'nin temelini oluşturan ve AI alanında devrim yaratan sinir ağı mimarisi.

Transformer, 2017 yılında Google tarafından sunulan ('Attention is All You Need' makalesi) bir mimaridir. Dizileri paralel olarak işlemek için bir self-attention mekanizması kullanır ve RNN ile LSTM modellerinin sınırlamalarını aşar. Tüm modern LLM'lerin ve birçok görüntü işleme modelinin temelidir.