DeepSeek

Hangzhou DeepSeek Artificial Intelligence Co., Ltd.
Logo
Rechtsform	Limited Company
Gründung	März 2023
Sitz	Hangzhou, China Volksrepublik Volksrepublik China
Leitung	Liang Wenfeng (CEO)
Branche	Informationstechnik Künstliche Intelligenz
Website	www.deepseek.com
Stand: Januar 2025

DeepSeek ist ein chinesisches Startup, das sich auf die Entwicklung fortschrittlicher Sprachmodelle und künstlicher Intelligenz spezialisiert hat. Das Unternehmen gewann internationale Aufmerksamkeit mit der Veröffentlichung seines im Januar 2025 vorgestellten Modells DeepSeek R1, das mit etablierten KI-Systemen wie ChatGPT von OpenAI und Claude von Anthropic konkurriert. Das Unternehmen wird ausschließlich vom chinesischen Hedgefonds High-Flyer finanziert. Beide Unternehmen haben ihren Sitz in Hangzhou, Zhejiang.

High-Flyer und Gründung

Im Jahr 2015 wurde der Hedgefonds High-Flyer von drei Ingenieuren der Universität Zhejiang gegründet, die während der Weltfinanzkrise 2007–2008 als Studenten erste Erfahrungen im Aktienhandel gesammelt hatten. High-Flyer etablierte sich schnell als innovativer Akteur im Finanzsektor, indem die Firma maschinelles Lernen zur Optimierung von Handelsstrategien einsetzte und ein KI-gestütztes Modell für den Hochfrequenzhandel entwickelte. Im Jahr 2021 startete Liang Wenfeng, einer der drei High-Flyer-Gründer, eine Forschungsgruppe für Grundlagenforschung in künstlicher Intelligenz, die als Nebenprojekt von High-Flyer finanziert wurde.

Im April 2023 gab Liang Wenfeng die Ausgründung der Forschungsinitiative als unabhängiges Unternehmen für künstliche Intelligenz namens DeepSeek bekannt. Der gewählte Name knüpft an den Ausdruck Deep Learning an. Ziel dieses Unternehmens ist die Entwicklung und Vermarktung einer universellen künstlichen Intelligenz basierend auf einem umfangreichen, eigens entwickelten Sprachmodell.

Vor dem Hintergrund des von den Vereinigten Staaten verhängten Exportverbots von Hochtechnologiechips nach China aus Gründen der nationalen Sicherheit verfolgt DeepSeek das strategische Ziel, eine leistungsfähige und wettbewerbsfähige Alternative zu westlichen KI-Lösungen bereitzustellen und gleichzeitig die technologische Souveränität Chinas zu stärken. Bereits in der frühen Phase seiner Existenz konnte das Unternehmen erhebliche finanzielle Unterstützung aus der chinesischen Technologiebranche sowie aus staatlich geförderten Innovationsprogrammen gewinnen. Laut Liang Wenfeng werden die Forschungsergebnisse und Modelle des Unternehmens immer unter Open-Source-Lizenzen veröffentlicht, dies sei Teil der Unternehmenskultur und man habe nicht die Absicht, dies in Zukunft zu ändern. Allerdings ist bei den Produkten von DeepSeek wie auch bisher bei allen als Open-Source angepriesenen Konkurrenzprodukten nur die verwendete Modell-Software mit ihrer Struktur und den dazugehörigen Parametern über eine Lizenz öffentlich zugänglich. Dagegen sind der Programmcode zur Steuerung des Trainings und die Daten, mit denen das Modell trainiert wurde, wie auch der Programmcode, der die Anfrage an das Modell weitergibt, nicht Open-Source.

Technik und Produkte

Muttergesellschaft High-Flyer

Bereits die Muttergesellschaft von DeepSeek entwickelte ab 2020 KI-Supercomputer mit dem Namen Fire-Flyer unter Verwendung integrierter Schaltungen (ICs) des US-Unternehmens Nvidia in Hangzhou. Auf diesen Rechnern liefen Programme, welche bereits einen hohen Stand von künstlicher Intelligenz aufwiesen.

DeepSeeks Mixture-of-Experts-Modelle

Am 9. Januar 2024 wurde ein als Large Language Model (LLM) konzipiertes Modell angekündigt, welches bereits die Mixture-of-Experts (MoE)-Technik beinhaltete. Im Vergleich mit dem seit Februar 2023 öffentlich zugänglichen LLaMA-Sprachmodell von Meta Platforms wurden bei 67 Milliarden Parameter nur noch 28,5 Prozent Rechenvorgänge benötigt.

DeepSeeks Mathematik-Modelle

Im April 2023 folgten drei KI-Lösungen für Mathematik: Base, Instruct und RL. Bei diesen Modellen wurde versucht, in LLMs nach einem zusätzlichen Training mit mathematischen Zusammenhängen logische Schritte wie bei mathematischen Herleitungen durchzuführen.

V2

Schema MoE und MLA in DeepSeek V2

Mehrere Fortschritte bei der Implementierung wie Multi-head Latent Attention (MLA) mit etwa auf 10 Prozent reduzierten Zugriffen auf die Datenspeicher erlaubten DeepSeek, das Modell V2 zu tieferen Nutzungspreisen anzubieten als die Konkurrenz. Die Kosten für einzelne Resultate (Schlussfolgerungen, Inferenzen) im Vergleich zu GPT-4 konnten auf ein Siebtel reduziert werden. Im Leistungsvergleich mit anderen Chatbots schloss DeepSeek V2 gut ab.

V3

Schema Multi-Token Prediction

Schema Mixed-Precsion Training

V3 baute auf V2 auf. Zusätzlich verwendet V3 Multi-token Prediction Training angewandt auf 14,8 Billionen Token. Auch wurde Mixed-Precision Arithmetic verwendet, wobei Gleitkommaarithmetik mit Zahlen unterschiedlicher Länge und Präzision in derselben Operation durchgeführt wurden. Dabei konnte durch reduzierte Genauigkeit Zeit gewonnen werden. Der Lernprozess erforderte nur 2788 Stunden auf Nvidia-H800-Grafikprozessor-ICs. Anschließend erfolgte Supervised Fine-Tuning und Bestärkendes Lernen. V3 weist 671 Milliarden Parameter in seinem künstlichen neuronalen Netzwerk aus. Technische Einzelheiten zu den eingeführten Neuerungen wurden ausführlich beschrieben. Vergleiche mit Konkurrenzprodukten wie GPT-4 und LLaMA fielen zugunsten von V3 aus.

R1

Am 20. Januar 2025 präsentierte DeepSeek das erweiterte LLM DeepSeek-R1. Im Gegensatz zu bisherigen Modellen mit überwachter Feinabstimmung (SFT) nutzt DeepSeek-R1 das auf Millionen von Inferenzspuren trainierte Bestärkende Lernen (RL). Dies imitiert menschenähnliche Bewertungen, was eine tiefere Analyse von Aufgaben ermöglicht, die komplexe Schlussfolgerungen erfordern. DeepSeek verwendet Aha-Momente als Pivot-Token bei der Formung von Schlussfolgerungen (Chain-of-Thought, CoT). Diese Aha-Momente dienen dazu, Zwischenschritte zu reflektieren und neu zu bewerten. Damit wird die Qualität der Antworten durch Selbstkorrektur verbessert. R1 war der erste KI-Chatbot, bei dem die Schritte des Denkprozesses beim Nachdenken (engl. reasoning) mitverfolgt werden können. Veröffentlicht wurden für rohe Schlussfolgerungen die Variante DeepSeek-R1-Zero sowie DeepSeek-R1 für praktische Anwendungen.

DeepSeek-R1 wurde unter der MIT-Lizenz veröffentlicht, die uneingeschränkten Open Access fördert und kommerzielle als auch akademische Nutzungen ohne Einschränkungen erlaubt. Allerdings sind auch bei den DeepSeek-Produkten wie bei anderen KI-Modellen die spezifischen Trainingsdaten nicht zugänglich und damit nicht Open-Source. Das Unternehmen setzt bewusst einen Kontrast zu zahlreichen proprietären KI-Systemen, die durch restriktive Lizenzen gekennzeichnet sind. Nach Meinung von Yann LeCun bei Meta Platforms werden Open-Source-Lösungen wie DeepSeek oder wie das LLaMA-Sprachmodell von Meta in Zukunft gegenüber proprietären KI-Systemen bevorzugt werden.

Der Zugang zu DeepSeek ist möglich durch

• die DeepSeek-App,
• die Webseite,
• die Programmierschnittstelle (API) oder
• die Installation des Anwenders auf einem eigenen Computer.
• Die MS-Cloud Microsoft Azure.

DeepSeek senkte laut dem Einzelunternehmer Cleanthinking.de den Energieverbrauch im Vergleich zu traditionellen KI-Modellen um bis zu 70 % durch effizientere Algorithmen. Allerdings gibt es Zweifel daran, ob DeepSeek die Modelle vollständig selbst trainiert hat, oder ein bereits fertig trainiertes ChatGPT als Hilfsmittel nutzte, um die Trainingszeit zu verkürzen.

Janus Pro

Mit Janus-Pro hat DeepSeek am 27. Januar 2025 ein neues multimodales KI-Modell veröffentlicht, das unter der MIT-Lizenz als Open Source verfügbar ist. Das Modell kombiniert Fähigkeiten, die sowohl DALL-E als auch Stable Diffusion ähneln, und kann Bilder analysieren sowie erzeugen. Es wurde mit Fokus auf präzise Interpretationsfähigkeiten, effiziente Architektur und optimierte Ressourcenverwendung entwickelt.

Wertung

Die Firma DeepSeek hat schrittweise seit ihrer Gründung zielgerichtet ihre KI-Modelle für hohe Effizienz bezüglich benötigter Rechnerleistung getrimmt. Ein Grund dafür war, dass sie die dafür besten integrierten Schaltungen (ICs) von Nvidia wegen deren hoher Kosten und später wegen Embargorestriktionen der USA gegenüber China für ihre Hochleistungsrechner nicht beschaffen konnte.

Eine Wertung aus ökonomischer wie auch technischer Sicht hat Daron Acemoğlu, Preisträger des Alfred-Nobel-Gedächtnispreises für Wirtschaftswissenschaften, vorgenommen. Er attestiert der Firma DeepSeek einen bedeutenden Erfolg im Ingenieurwesen. Sie habe an und für sich vorgängig bekannte Grundlagen effektiver als US-Unternehmen kombiniert. Die meisten grundlegenden Methoden seien jedoch bereits früher in den USA entwickelt worden. So seien es amerikanische Big-Tech-Gesellschaften gewesen, welche Transformatormodelle, Gedankenketten (Chain-of-Thoughts) und Destillation eingeführt hätten. Fortschritte durch DeepSeek seien durch besonderes Reinforcement Learning, Mix-of-Experts-Methoden (unter Verwendung vieler kleinerer, effizienterer Modelle), Destillation und verfeinerte Gedankenkettenbegründung erzielt worden.

Zensur und Kritik

Während das Sprachmodell eine Frage zum chinesischen Staatschef Xi Jinping verweigert, beantwortet es diese beim indischen Regierungschef Narendra Modi problemlos (englisch)

Chinesische Partei-Propaganda über die Geschichte Taiwans (englisch)

Antwort des Sprachmodells auf eine Frage nach dem Platz des Himmlischen Friedens

Es wurde beobachtet, dass DeepSeek sensible Themen aktiv zensiert, insbesondere solche, die in China als politisch heikel gelten. Dazu zählen Fragen zum Massaker auf dem Tian’anmen-Platz 1989, zur Unterdrückung der Uiguren oder zu Menschenrechten. Hierbei sind drei Methoden sichtbar geworden: Teilweise verweigert das Modell direkt die Antwort und liefert stattdessen eine Standardmeldung: „Tut mir leid, das liegt außerhalb meines aktuellen Aufgabenbereichs. Lass uns über etwas anderes sprechen.“ Mitunter generiert die KI eine Antwort, ersetzt diese jedoch kurz darauf durch die Standardmeldung. Teilweise antwortet sie auch, etwa zum Massaker 1989, mit einer einseitig pro-chinesischen Haltung, die sich aus westlicher Sicht eher als „Propaganda-Sprech“ bezeichnen lässt.

Die internen Zensurmechanismen und Einschränkungen lassen sich in der quelloffenen und modifizierbaren Open-Source-Version des R1-Modells nur aufwändig entfernen. Sobald von Chinas Internet-Regulierungsbehörden definierte „sozialistische Grundwerte“ tangiert oder die Taiwan-Frage thematisiert wird, enden Diskussionen. Nutzer beobachteten, wie DeepSeek in Echtzeit Inhalte zensiert: Antworten zu Themen wie die Menschenrechte werden ausgegeben und kurz darauf ersetzt durch allgemeine Mitteilungen. R1 könne laut The Guardian aber auch ohne diese pro-chinesische Zensur heruntergeladen werden.

Es gibt Bedenken, dass das System potenziell für ausländische Einflussnahme, Desinformation, Überwachung und zur Entwicklung von Cyberwaffen, wie beispielsweise neuen Hacking-Tools für den chinesischen Geheimdienst, verwendet werden könnte.

Darüber hinaus gibt es maßgebliche Datenschutzbedenken. DeepSeek sammelt laut eigenen Angaben persönliche Informationen, Internet- sowie Netzwerkaktivitäten des jeweiligen Benutzers, dessen Geräte-ID, die Nutzer-ID und sogar das Tastenschlagmuster.

So wurde Ende Januar in Italien der Zugang zu DeepSeek inklusive der Smartphone-App gesperrt. Grund waren laut Medienberichten Zweifel der italienischen Datenschutzbehörde an ausreichendem Datenschutz bei DeepSeek. Zuvor hatte bereits Altroconsumo, eine italienische Verbraucherorganisation, eine Beschwerde beim Datenschutzbeauftragten gegen DeepSeek eingelegt. In Taiwan wurde der Gebrauch von Deepseek auf Regierungsebene verboten. Im US-Bundesstaat New York auch.

Im Februar 2025 wurde der Gebrauch von Deepseek in Südkorea verboten.

Reaktionen der Märkte 2025

Nachdem die Medien die Leistungsfähigkeit des DeepSeek-KI-Modells bei vergleichsweise niedrigen Investitionen bekannt gemacht hatten, kam es am 27. Januar 2025 zu einem Kurssturz vieler westlicher Technologieaktien, die um 5 bis 30 Prozent fielen. Besonders betroffen war Nvidia, dessen Marktkapitalisierung um 593 Milliarden US-Dollar sank – der bisher größte Tagesverlust eines Unternehmens am New Yorker Börsenplatz.

In den Vereinigten Staaten überholte die App von DeepSeek ChatGPT und belegte Ende Januar 2025 den ersten Platz in der Liste der am meisten heruntergeladenen iPhone-Apps.

Rezeption

Bridgewater Associates prognostiziert kurzfristige Rückschläge bei Tech-Aktien durch den Wettbewerb mit DeepSeek, dessen Modell kostengünstiger und ressourcenschonender als bestehende US-Technologien sei und zur meistgeladenen KI-App im Apple App Store wurde, was die Frage aufwerfe, ob die umfangreichen Investitionen westlicher Unternehmen in KI gerechtfertigt sind. Langfristig erwartet Bridgewater jedoch, dass DeepSeeks Fortschritte die KI-Adoption weltweit beschleunigen und die Branche nachhaltig verändern werden.

Weblinks

Commons: DeepSeek – Sammlung von Bildern, Videos und Audiodateien

• Deepseek Internetpräsenz
• Deepseek Papers Anthologie
• High-Flyer Hedge-Fonds (englisch)