Mistral ist das größte europäische KI-Unternehmen mit eigenem LLM und wirbt sehr damit, strenge Guardrails zu haben. Es ist damit auch ein Baustein in europäischen KI-Strategie, die darauf abzielt, sich weniger abhängig von US-Tech-Konzernen zu machen. Damit dürfte bald Schluss sein, denn Elon Musk denkt gerade sehr laut über eine Kooperation zwischen XAI und Mistral nach. War es das schon mit dem zarten Pflänzchen europäische KI-Souveränität oder hat das eh nie jemand ernsthaft versucht? Und wenn schon KI-Kooperationen mit US-Konzernen, warum dann ausgerechnet mit dem Unternehmen, das am alleroffensivsten jegliche Guardrails ignoriert? Immerhin ist Grok das LLM, das am allerhäufigsten dadurch auffällt, problematische Inhalte zu erstellen und immer wieder toxisch “agiert”, wie z.B. hier in diesem Vergleich mehrerer aktueller LLMs zu ihrem Reaktionen auf wahnhafte Ideen:
Researchers Simulated a Delusional User to Test Chatbot Safety Researchers Simulated a Delusional User to Test Chatbot Safety