In der aktuellen Oktober-Ausgabe von „KI Journal Club“ geht es um das neu erschienene Language Model – MT-NLG von Microsoft und NVIDIA sowie um die neueste Version der Machine Learning Library PyTorch und die Zukunft der Suche.
Im Kampf um das größte Language Model hat nun Microsoft zusammen mit NVIDIA das Megatron-Turing Natural Language Generation Model (MT-NLG) vorgestellt. Mit 530 Milliarden Parametern kommt es zwar noch nicht an den Googles Switch Transformer mit 1,6 Billionen Parametern heran, die Ergebnisse zeigen aber, dass das Model gerade im Bereich Few-Shot Learning gute Ergebnisse erzielt. Das Problem des Bias ist jedoch im Model immer noch vorhanden. Da hilft auch die Größe nichts.
Welche Neuerungen es im Release der PyTorch Machine Learning Library gibt und warum Sie einem der Pioniere des modernen Information Retrieval, Dr. Ricardo Baeza-Yates, zuhören sollten, lesen Sie im aktuellen „KI Journal Club“ Beitrag.
Unsere KI-Agentur ontolux stellt in der monatlichen Serie wissenschaftliche Beiträge und Presseberichte aus den Bereichen Text Mining, Machine Learning, KI, Natural Language Processing vor und beleuchtet die aktuelle Situation der maschinellen Verarbeitung von Sprache und Text.
Veröffentlichung am 31.10.2021
Bildquelle: christopher-burns-unsplash