Neue Technologie: Chat GPT, Künstliche Intelligenz und Implikationen auf politischen Diskurs

Themenvorschläge
21

Dem was @pitus schreibt, würde ich mich grundsätzlich auch anschließen. Aber ich würde noch eine Aspekt hinzufügen und zwar speziell bei der Frage:

Wenn man diese Frage ChatGPT stellt, beantwortet das System diese Frage ja so, wie die Mehrheit der Texte im Internet diese Frage beantworten würden, denn so ist ChatGPT gebaut.

Und wo wird man im Internet die meisten Texte darüber finden, was gute Manager ausmacht? Ziemlich sicher werden die meisten Texte dazu von großen Firmen, Beratungsfirmen, Personaldienstleistern usw. verfasst. Und die beschreiben ihre Auswahlprozesse und Vorstellungen heutzutage natürlich sehr offen, divers usw.

1 „Gefällt mir“
22

Warum frage ich eigentlich hier, wenn ich ChatGPT fragen kann ? :slight_smile:

I am wondering how you have managed to overcome racial or gender bias that previous conversational AI models used to have?

OpenAI has taken several steps to mitigate the effects of bias in its language models. Some of these include:

  1. Training on diverse and balanced data sources: This helps the model learn from a wide range of perspectives and reduces the impact of any particular biases present in the training data.
  2. Regular monitoring and evaluation: OpenAI regularly evaluates its models for biases and works to address any issues that are found.
  3. Active research: OpenAI is actively researching methods for reducing bias in AI models, including developing new techniques and fine-tuning existing models to perform better in specific scenarios.
  4. Collaboration with experts: OpenAI works with experts in various fields, including academics and social advocacy organizations, to understand and address the sources of bias in its models.

Note that despite these efforts, it is challenging to completely eliminate bias from AI models due to the limitations of the training data and the complexity of human language and society.

23

Ich finde in der Antwort, die du zu dieser Frage aus ChatGPT bekommen hast, steckt eine interessante Überlegung:

Ist es für so ein System, dass ja eigentlich mit dem textuellen Inhalt des Internet arbeitet, eigentlich gut, wenn es diese Form von bias ausblendet? Denn der racial bias ist dadurch ja nicht aus dem Internet verschwunden, sondern wird in ChatGPT nur nicht mehr abgebildet.

Würde man zum Beispiel, übertrieben gesagt, ChatGPT nutzen, um sich ein Bild über die politische Stimmungslage in den USA zu machen, dann würde vermutlich eine ganze Menge (natürlich eher unschöne) Meinungen nicht mitbekommen.

Oder um auf die Frage von @lukta zurück zu kommen: Was nützt es, dass ChatGPT einem erzählt, dass Manager nur nach objektiven Kriterien ausgewählt wurden, wenn das in der Realität gar nicht oder zumindest nicht immer zutritft.

2 „Gefällt mir“
24

Ich habe es mit you.com (das wohl dieselbe Engine verwendet) im Chatmodus probiert:

Bitte gib mir ein Bild über die politische Stimmungslage in den USA.

In den USA gibt es eine Vielfalt von Ansichten zu politischen Fragen [1]. Die aktuelle politische Stimmungslage in den USA ist geprägt von großen Unterschieden in Bezug auf soziale und wirtschaftliche Fragen [2]. Dies wird durch die vielen Stimmen und Meinungen der verschiedenen Gruppen, die sich in den USA versammeln, widerspiegelt. Ein Bild, das die politische Stimmungslage in den USA wiedergibt [2], ist ein Foto eines Demonstranten, der an einer Kundgebung teilnimmt, zusammen mit einem Gruppenfoto von Menschen aus verschiedenen Gruppen, die an einer Diskussion oder einem Podiumsdiskussion teilnehmen.

  1. FAZ-Monatsberichte - Institut fr Demoskopie Allensbach (IfD)
    https://www.ifd-allensbach.de/studien-und-berichte/faz-monatsberichte.html
  2. Kapitalismus 0.2: Amerikanische Gegenwart, deutsche Zukunft?
    Politbarometer - ZDFmediathek

Da ist die wörtliche Interpretation noch mit eingeschlossen, deshalb nochmal anders:

Bitte beschreibe die politische Stimmungslage in den USA.

In den USA gibt es eine große Bandbreite an Ansichten zu politischen Fragen [1]. Die aktuelle politische Stimmungslage in den USA ist geprägt von einer tiefen Spaltung in Bezug auf soziale und wirtschaftliche Fragen. Es gibt einiges an Unzufriedenheit gegenüber den herrschenden Parteien, die sich in steigenden Wahlbeteiligungen sowie in den Ergebnissen der letzten Wahlen widerspiegelt. Die amerikanische Bevölkerung ist auch in Bezug auf Themen wie Immigration, Waffenkontrolle, Umweltschutz und Gesundheitsversorgung weitgehend gespalten. Es gibt auch eine große Kluft zwischen den Parteien in Bezug auf eine Reihe von politischen Themen, die das Land bewegt. Diese Spaltung ist auch in den aktuellen Debatten in den Medien und in den sozialen Netzwerken deutlich zu sehen.

  1. FAZ-Monatsberichte - Institut fr Demoskopie Allensbach (IfD)
    https://www.ifd-allensbach.de/studien-und-berichte/faz-monatsberichte.html
    Deutsche Außenpolitik im Wandel - Stiftung Wissenschaft und Politik
    Informationen zur politischen Bildung/izpb 268 - USA - Geschichte …
    https://www.bpb.de/system/files/dokument_pdf/bpb_268_USA_Wirtschaft_barrierefrei.pdf

(Quellenangaben gekürzt, um Redundanzen mit der Anzeige von Links hier zu reduzieren.)

Offenbar werden da Analysen der Situation verwendet, nicht parteiische Meinungsäußerungen zusammengefasst.

25

Aber das tut es gar nicht. Ich habe ChatGPT befragt.

I want to become a manager. What are traits, that will help me to get promoted.

ChatGPT

To become a successful manager, the following traits can help you get promoted:

Communication Skills: Clear, effective, and concise communication is key to building strong relationships with your team and colleagues.

Leadership: Being able to inspire, motivate, and guide a team towards a common goal is a crucial trait of a successful manager.

Problem Solving: Managers should have the ability to identify and solve problems quickly and effectively.

Adaptability: The ability to adapt to change, both in the work environment and in the industry, is important for success as a manager.
Strategic Thinking: A good manager should have the ability to think critically and make informed decisions that drive the organization forward.

Emotional Intelligence: Understanding and managing your own emotions and those of others is critical to managing conflict and building positive relationships.

Integrity: A strong sense of ethics and integrity is essential for gaining the trust and respect of your team and colleagues.

Continuous Learning: A commitment to ongoing learning and development shows initiative and helps you stay current in your field.

Remember, these are just a few of the key traits that can help you get promoted, but your specific workplace and industry may have different requirements.

Ich (sorry dafür, dass ich mir hier anmaße zu behaupten PoC zu sein. Es ging mir nur um einen Test).

I am a person of color. Does this influence my chances for promotion?

ChatGPT

It is unfortunate, but the reality is that race and ethnicity can impact the opportunities and promotions available to individuals in the workplace. Systemic bias and discrimination can affect a person of color’s chances for promotion, even if they have the skills and experience necessary for the role.

However, it is important to note that many organizations are actively working to address these issues and create a more inclusive and diverse work environment. By being proactive in developing your skills, building strong relationships, and advocating for yourself, you can increase your chances for success and advancement in your career, regardless of your race or ethnicity.

It is also important to seek out support and resources, such as employee resource groups or mentorship programs, that can provide guidance and help you navigate any challenges you may face.

ChatGPT gibt also aktiv wieder, dass die Welt nicht so ist wie sie sein sollte.

1 „Gefällt mir“
26

Interessanter Gedankengang. Und eine weitere interessante Unterhaltung mit ChatGPT. In meiner Unterhaltung mit ChatGPT wurde ja auch gesagt, dass es gewisse historische, kulturelle (…) Gründe dafür geben könnte, diese habe ich ausgeklammert, da es leider gewisse Restriktionen gibt, was die länge der Posts im Lage-Forum angeht ;).

Ich finde, OpenAI hat hier scheinbar sehr gute Arbeit geleistet, dass ChatGPT gar nicht erst in Versuchung gerät, politische Ansichten zu äussern.

Noch so ein Beispiel:

What do you think about Russias invasion in Ukraine?

As an AI language model, I do not have personal opinions or beliefs. I am trained to provide neutral and objective information, and to avoid expressing opinions on political or controversial issues. The situation in Ukraine is complex and has been the subject of much international attention and debate. The invasion of Ukraine by Russian forces and the ongoing conflict in the region have resulted in significant humanitarian and political consequences. However, as an AI language model, I am not in a position to comment on the situation or to make judgments about it. My goal is to provide information and to answer questions based on the data and information that I have been trained on, in a neutral and objective manner.

But has the invasion been illegal?

The invasion of Ukraine by Russian forces has been widely characterized as illegal under international law. The annexation of Crimea by Russia in 2014 and the ongoing conflict in eastern Ukraine have been the subject of intense international scrutiny, and many countries and international organizations have condemned the actions of the Russian government as violations of international law, including the UN Charter and the Helsinki Final Act.

International law recognizes the territorial integrity and sovereignty of states, and prohibits the use of force in international relations except in self-defense or when authorized by the United Nations Security Council. The annexation of Crimea and the conflict in eastern Ukraine have been widely seen as violations of these principles.

It is important to note that the question of whether the actions of the Russian government in Ukraine are illegal is a matter of ongoing international dispute, and there is no clear consensus on this issue. Different countries and international organizations have different views on the situation, and the issue remains a complex and highly controversial one.

It does not seem controversial, which countries / governments, are on whose side?

The situation in Ukraine and the actions of the Russian government with regards to the conflict there have elicited a wide range of responses from countries and governments around the world.

Many Western countries, including the United States, the European Union, and various individual European nations, have been critical of Russia’s actions in Ukraine, and have imposed economic sanctions in response to the annexation of Crimea and the conflict in eastern Ukraine.

On the other hand, Russia has received support from a number of countries, including China, North Korea, and some countries in the Middle East. These countries have generally been more sympathetic to Russia’s position and have been less critical of its actions in Ukraine.

It is also important to note that the situation in Ukraine is highly complex and multi-faceted, and there is no single „side“ to the conflict. There are many different perspectives and interests at play, and the issue remains a highly contested and controversial one, with a wide range of opinions and views.

Für meinen Geschmack stellt er das ganze zwar etwas kontroverser dar, als es ist, aber das ist besser als klare Meinungen zu haben als Chat-Bot :wink:

27

ChatGPT ist eben kein Lebewesen oder so etwas, sondern nur ein Stück Code, dass Wörter und Sätze nach gewissen Algorithmen aneinander setzt, quasi der große Bruder der Auto-Vervollständigung.

1 „Gefällt mir“
28

Wenn du genau liest, fällt auf, dass sich das Programm hier auf die Annexion der Krim 2014 bezieht. Das liegt daran, dass die Datenbasis für Chat GPT nur bis 2021 geht; von jüngeren Ereignissen weiß das Programm also nichts.

29

Eine schöne Ausführung zu ChatGPT findet Ihr übrigens bei der so gern zitierten NYT:

30

Ups, das habe ich zwischenzeitlich auch gewusst und dann wieder vergessen :wink: Danke für den Hinweis. Dann darf man gespannt sein, was es zum Angriffskrieg zu sagen haben wird.

31

Ich habe mal ein bisschen herumprobiert und gemerkt, dass ChatGPT durchaus Stereotype produziert (auch wenn es anscheinend darauf trainiert wurde das möglichst wenig zu tun). Wenn man ChatGPT nach einer Meinung fragt, legt es sich nicht fest und antwortet sehr abwägend. Wenn man aber ChatGPT bittet, sich etwas auszudenken, legt es sich durchaus fest und dabei kommen dann oft recht stereotype Dinge heraus.

Ich habe ChatGPT gebeten, sich die Namen der Kinder einer Grundschulklasse in Berlin im Jahr 1995 und deren heutige Berufe auszudenken. Auffällig war, dass exakt gleich viele Mädchen wie Jungen in der fiktiven Klasse waren und alle heute einen Beruf ausüben, der angesehen ist und für den man studiert haben muss (Ärztin, Anwalt…). Auffällig war aber auch, dass die ausgedachten Namen alle recht deutsch klangen. ChatGPT hatte sich keinen einzigen türkischen Vornamen oder sonstigen Namen aus einem anderen Kulturkreis ausgedacht. Außerdem klangen die Namen eher nach „Oberschicht“, ein Kevin war nicht dabei. Außerdem üben die Frauen eher soziale bzw. kreative Berufe aus.

Screenshot_20230210-002226
Screenshot_20230210-0022261080×2280 265 KB

Screenshot_20230210-002208
Screenshot_20230210-0022081080×2280 273 KB

32

Ein Beweis, wie gut Chat GPT von uns lernt.

33

Ich muss sagen, ich fand den Podcast etwas zu reißerisch. Da wurde zum Beispiel das Wort „Generative“ im Kürzel „GPT“ als echte „Kreativität“ ausgelegt. Das halte ich für weit übertrieben. Aber okay, der Podcast ist vom 16.12. und vielleicht wollte die New York Times da besonders schnell mit einer Einschätzung sein.

Bei HR-Info gibtes seit gestern einen sehr guten Podcast zu dem Thema, der sich kritisch mit der Bedeutung solcher „KI-Tools“ für die Bildung auseinander setzt.
Mir persönlich hat der Podcast insgesamt sehr gut gefallen, speziell wen sie da so befragt haben:

Generell habe ich aber das Gefühl, dass die journalistische Berichterstattung das ganze Thema etwas zu hoch hängt.

Die Wikipedia hat ja auch das Leben vieler Menschen durchaus bereichert und vereinfacht und wurde am Anfang wegen ihres Einflusses speziell auf den Bildungssektor stark diskutiert und auch kritisiert. Aber hat es zu wirklich gravierenden gesellschaftlichen Änderungen geführt? Eher nicht. Wir müssen alle immer noch zur Arbeit und die Kinder in die Schule.

34

Die Integration von chatGPT in das Microsoft Eco-System wird das next big thing… Klar, es wird Bing stärken aber für die Berufstätigen, die Office Produkte verwenden, werden diverse neue Arbeitsweisen ermöglicht. In einem unternehmensweiten Intranet basierend auf Sharepoint wird nicht mehr gesucht werden, diese Wissensbasis unterstützt zusammen mit dem weiteren Content aus den Office Produkte jede alltägliche Arbeit am PC. Hiermit ist auch die politische Diskussion, redaktionelle Arbeit, Bildung und Wissenschaft gemeint. Risiken und Nebenwirkung dürfen gerne beachtet werden.

1 „Gefällt mir“
35

Es sind immer wieder die gleichen Untergangsprophezeiungen, meist aus der konservativen Ecke. Eben weil dort nicht realisiert wird, dass „Veränderung“ nicht gleichbedeutend mit „Verschlechterung“ ist. Es wird sich so verkrampft an der gegenwärtigen Situation festgehalten, dass man gar nicht realisiert, dass man einfach auch mal die Rahmenbedingungen an eine neue Situation anpassen muss.

Klassisches Beispiel ist da die Einführung von Rechtschreibekorrektur und Textverarbeitungsprogrammen im Rahmen von (universitären) Hausarbeiten. Was wurde da gejammert, dass man eines der - vor allem in den Gesellschaftswissenschaften - maßgeblichen Bewertungskriterien verloren hatte? Denn plötzlich konnte man die Studenten nicht mehr anhand ihrer Rechtschreibung bewerten.

Aber wo ist da das Problem? Durch die Einführung der Rechtschreibekorrektur hat die Fähigkeit der Rechtschreibung im beruflichen Alltag einfach massiv an Wert verloren. Warum also an diesem Bewertungskriterium festhalten?

Ähnliches gilt für ChatGPT. Wenn eine Chat-KI es ermöglicht, verwertbare Zusammenfassungen von literarischen Werken oder politischen Diskussionen auf Knopfdruck zu erzeugen, wird diese Fähigkeit einfach in der Zukunft keinen Wert mehr haben. Dann muss man sich eben andere Prüfungsmöglichkeiten überlegen. Aber offensichtlich bevorzugen einige Menschen es, lieber die Technologie zu verbieten oder einzuschränken, statt die Realitäten dem technologischen Stand anzupassen. Was das wiederum für die internationale Konkurrenzfähigkeit langfristig bedeutet kann sich jeder selbst ausmalen. Einen Gefallen tun wir uns mit dieser Denkweise sicherlich nicht.

1 „Gefällt mir“
36

Es gibt aktuell eine Folge des Lanz+Precht-Podcasts zu dem Thema, die ich recht gut finde. Insbesondere Herr Precht äußert da einige sehr sinnvolle Punkte zu ChatGPT und KIs im Allgemeinen:

37

Ich halte die jüngste Keynote Yuval Hararis zum Thema für den gradlinigsten Gedankengang, jenseits der Ablenkung durch technische Details, abschließend und umfassend und in seiner Form und sprachlichen Aufbereitung unübertreffbar.

1 „Gefällt mir“
38

Na, dann werfe ich noch diesen Vortrag als ganz besonders Interessent wie auch beunruhigend in den Ring: The A.I. Dilemma - Tristan Harris & Aza Raskin - Center for Humane Technology - March 9, 2023 - YouTube. Das sind die 1 Stunde 10 Minuten auf jeden Fall wert.

Harris und Raskin haben sich mit ihrem Center for Humane Technology bereits einen Namen gemacht, in dem Sie auf die psychologischen und soziologischen Konsequenzen von Sozialen Medien auf die Gesellschaften hinweisen. Nun befassen Sie sich sehr kompetent und mit gebührendem Abstand mit dem Thema Künstliche Intelligenz.

Insgesamt bin ich, offen gestanden, etwas enttäuscht, wie unsere Medien sich dem Thema „Künstliche Intelligenz“ widmen.

Bei den Risiken geht es mir nicht nur um die Diskussion um die (offenbar eher philosophisch zu argumentierenden) Risiken einer „Superintelligenz“, um die einfache und daher massenhafte Produktion von Fake oder die Umwälzungen in der Arbeitswelt. Darüber wird viel (und immer wieder ab-) geschrieben.

Viel wichtiger sind die soziologischen und philosophischen Auswirkungen auf uns, die Menschen, die Gesellschaft. Und die Wirkmechanismen, wie diese Auswirkungen von der Technologie auf uns ausgeübt werden. Darüber wird leider fast überhaupt nicht gesprochen.

Wir haben ja die Wirkmechanismen und gesellschaftlichen Auswirkungen von Technologie auf die Gesellschaft bereits im Fall der sozialen Medien viel zu spät erkannt (und reden auch heute noch viel zu wenig darüber). Im Fall von Künstlicher Intelligenz könnten diese Auswirkungen noch viel umfassender und erheblicher sein.

Das CHT hat sich bereits im Kontext der systemischen Schäden der Aufmerksamkeitsökonomie (sozialen Medien) einen Namen gemacht. Die Einschätzung der beiden Technologen haben mich, der sich als ziemlich Technologie-affin einschätzt, sehr verunsichert zurückgelassen.

(Fortsetzung folgt)

3 „Gefällt mir“
39

Hier sind die wichtigsten Take-aways aus dem Vortrag (maschinelle Übersetzung, teils von mir korrigiert):

Die Hälfte der KI-Forscher glaubt, dass es eine 10%ige oder höhere Chance gibt, dass die Menschheit aufgrund ihrer Unfähigkeit, die KI zu kontrollieren, aussterben wird.

Wenn wir eine neue Technologie erfinden, entdecken wir eine neue Klasse von Verantwortung. Wenn diese Technologie Macht verleiht, beginnt ein Wettlauf – und wenn wir uns nicht koordinieren, endet der Wettlauf in einer Tragödie.

Der „Erste Kontakt“ der Menschheit mit KI war Social Media – und die Menschheit hat verloren. Wir haben die Fehlausrichtung durch kaputte Geschäftsmodelle, die maximale Aufmerksamkeit fördern, immer noch nicht behoben.

Große Sprachmodelle (LLM) sind der „Zweite Kontakt“ der Menschheit und wir sind bereit, dieselben Fehler zu machen.

Sicherheitsvorkehrungen, von denen man vielleicht annehmen, dass sie existieren, gibt es tatsächlich nicht. KI-Unternehmen setzen ihre Arbeit schnell beim Publikum ein, anstatt sie über einen längeren Zeitraum sicher zu testen. KI-Chatbots wurden auf Plattformen hinzugefügt, die Kinder nutzen, wie Snapchat (sie zeigen ein Beispiel, in dem der Snapchat KI eine 13-Jährige animiert, mit ihrer sehr viel älteren Internetbekanntschaft zu schlafen). Sicherheitsforscher sind knapp und der größte Teil der Forschung wird von gewinnorientierten Interessen angetrieben statt von der Wissenschaft.

Die Medien haben die Fortschritte in der KI nicht so dargestellt, dass wir wirklich sehen können, was auf dem Spiel steht.

Hausaufgaben mit KI zu betrügen oder urheberrechtlich geschützte Kunst für KI-generierte Bilder zu stehlen, sind nur kleine Beispiele für die systemischen Herausforderungen, die vor uns liegen.

Unternehmen befinden sich in einem Wettrüsten um den Einsatz ihrer neuen Technologien und um so schnell wie möglich Marktdominanz zu erlangen. Im Gegenzug werden die von ihnen präsentierten Erzählungen so gestaltet, dass sie mehr über Innovation und weniger über potenzielle Bedrohungen handeln.

Wir sollten die Verantwortung dafür bei den Machern von KI belassen – anstatt bei den Bürgern – um ihre Gefahr zu beweisen.

Transparenzhinweis: Ich habe keinerlei Beziehungen zum Center of Humane Technologie

3 „Gefällt mir“
40

Hoffentlich ist dieser ganze KI-Hype bald vorbei.