Redaktion
Jan-Tristan Rudat
Redakteur · Summarization-Historie & NLP
Über Jan-Tristan
Jan-Tristan Rudat ist Redakteur bei AKARA Solutions und fuellt die Ratgeber-Sektion von text-zusammenfassen.de mit den Hintergrund-Geschichten zur Summarization-Forschung. Schwerpunkte: Hans Peter Luhn, der 1958 bei IBM mit "The Automatic Creation of Literature Abstracts" (IBM Journal of Research and Development 2:2) die erste computerbasierte Zusammenfassung beschrieb, basierend auf Wortfrequenzen und Position im Text. H.P. Edmundson, der 1969 in "New Methods in Automatic Extracting" (Journal of the ACM 16:2) die Features Cue-Phrases, Title-Words und Location-Heuristics ergaenzte. Inderjeet Mani, der 2001 mit "Automatic Summarization" (John Benjamins) das erste Standardwerk schrieb. Rada Mihalcea und Paul Tarau, die 2004 mit ihrem EMNLP-Paper "TextRank: Bringing Order into Texts" den graphbasierten Ansatz mit PageRank etablierten, und Guenes Erkan und Dragomir Radev, die fast zeitgleich mit "LexRank: Graph-based Lexical Centrality as Salience in Text Summarization" (JAIR 22) einen aehnlichen Ansatz mit Cosine-Similarity vorstellten. Der Bruch kam 2017 mit Vaswani et al "Attention Is All You Need" (NIPS), das die Transformer-Architektur einfuehrte, und 2018 mit Devlin et al "BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding" (NAACL), das pre-trained Sprachmodelle in der NLP-Community salonfaehig machte. Es folgten Specialized Summarization-Modelle: PEGASUS von Zhang et al (ICML 2020) mit Gap-Sentence-Generation als Pre-Training-Task, BART von Lewis et al (ACL 2020) mit Denoising-Autoencoder-Architektur, und T5 von Raffel et al (JMLR 2020) mit dem Text-to-Text-Transfer-Framework. Heute generieren GPT-4, Claude und Gemini abstraktive Zusammenfassungen, die syntaktisch um- formulieren und nicht mehr Originalsaetze kombinieren wie die klassischen extraktiven Algorithmen, sondern als sprachgenerierte Texte das Ergebnis serviceren. Korrekturwuensche zu Quellen oder Datierungen gehen an info@akara-solutions.de.
Verantwortungsbereich auf text-zusammenfassen.de
- Recherche Luhn 1958 IBM-Paper
- Edmundson 1969 Cue-Phrases + Title-Words
- Mihalcea & Tarau 2004 EMNLP-TextRank
- Erkan & Radev 2004 JAIR-LexRank
- Transformer-Aera BERT + BART + PEGASUS + T5
Kontakt für inhaltliche Anliegen
Fragen, Korrekturwünsche oder Hinweise zu Inhalten gehen direkt an jan.rudat@akara-solutions.de. Bei rechtlich relevanten Anliegen wende dich an den nach § 18 Abs. 2 MStV inhaltlich Verantwortlichen (Eike-Christian Ramcke, Anschrift siehe Impressum).