Yapay sinir ağları fikri 1950'lere uzanır ama iki kez terk edildi: hesaplama gücü yetmiyor, eğitecek veri bulunamıyordu. 2000'lerde görüntü tanımada standart yaklaşım, özniteliklerin insan eliyle tasarlanmasıydı — bir uzman, kenarları ya da köşeleri yakalayan filtreler yazar, sınıflandırıcı bunları kullanırdı.

2012'de Alex Krizhevsky, Ilya Sutskever ve Geoffrey Hinton, ImageNet yarışmasına sekiz katmanlı bir evrişimli sinir ağıyla katıldı. Üç şeyin bir araya gelmesi belirleyici oldu: Fei-Fei Li'nin ekibinin yıllar süren etiketleme çalışmasıyla oluşturduğu 1,2 milyon görüntülük ImageNet veri kümesi; ağı iki oyun ekran kartında eğitmeyi mümkün kılan GPU programlama; ve aşırı öğrenmeyi engelleyen dropout ile ReLU gibi eğitim teknikleri. Sonuç, ikinci sıradaki yöntemin hata oranını on puandan fazla geride bıraktı. Ağ, hangi özniteliklere bakacağını kendisi öğrenmişti.

Etki hızlı ve geniş oldu. Sonraki üç yılda görüntü tanımada elle tasarlanmış öznitelikler bırakıldı; aynı yaklaşım konuşma tanımaya, çeviriye ve 2017'de transformer mimarisiyle dile taşındı — 2022'deki üretken yapay zekâ dalgası bu hattın devamıdır. Veri, hesaplama gücü ve model boyutunu birlikte büyütmenin işe yaradığı gözlemi ('ölçek yasaları') sektörün yatırım mantığını da belirledi. Krizhevsky, Sutskever ve Hinton'ın kurduğu küçük şirket birkaç ay sonra Google tarafından satın alındı; Hinton 2024'te fizik Nobel'ini paylaştı ve aynı yıllarda bu teknolojinin risklerine dair en yüksek sesli uyarıcılardan biri oldu.