In den letzten zweihundert Jahren hat der Mensch besonders viele Büchsen der Pandora geöffnet. Doch in den letzten Jahren hat das Tempo noch einmal deutlich zugelegt. Die letzte Büchse aus meiner Sicht heißt: Chat GPT. Als Erstes möchte ich da mein Beileid allen Lehrer*innen kundtun. Denn jetzt haben all ihre Schüler*innen den Oberklugsch… im Handyformat. Lehrer*innen müssen jetzt nicht mehr ihre Schüler*innen lehren, fördern und “begutachten”, nein sie müssen ausgerüstet mit Anti Chat-GPT Software beweisen, dass der Schüler*innen Werk eben nicht von Chat GPT ist, sondern eigene Kunst.
Als ich im Handelsblatt vom I-Phone Moment in Zusammenhang mit Chat GPT las, erschien mir das doch noch sehr weit hergeholt, aber nach den ersten selbst Experimenten ahne ich, dass sich da schon wieder schneller als von mir angenommen, die schon länger anrollende KI Welle über uns ergießt. Das geniale dabei ist aus meiner Sicht gar nicht “nur”, dass es sehr viel weiß, sondern eben dieses Chat-Format. Letztlich ist es ja ein Google im Chat Format. Doch eben dieses Chat-Format macht es anders, als das Google Suchen. Es ist das Gespräch mit einem Gegenüber, das mag ein Zwiegespräch oder ein imaginierter Monolog sein, aber es ist psychologisch etwas ganz anderes als der Dialog mit einer sehr klugen Input-Zeile.
Es ist sicherlich noch zu früh, um zu sagen, was für eine Pandora da rauskommt, aber lassen wir uns überraschen. Jetzt muss ich aber auch weiter, denn ich habe mindestens noch 42 Fragen an diese Klugsch…*in.
….in der Zwischenzeit….
Nun ich habe weitere erste Tests mit dem System unternommen. So interessiert mich, wie der Chat Bot mit BIAS also Verzerrung von Inhalten durch sprachliche Attributionen, die das “tatsächliche” Ergebnis in einem manipulierten Kontext aufzeigen, umgeht. So gibt es Berichte im Netz, dass es Benutzer eines Chat Bots gelungen war, es so zu “trainieren”, dass es zum Nazi wurde.
Nun hier die Antwort auf meine Frage:
Christian:
Can you explain how in general you try to avoid bias in your system?
Chat GPT 4.0:
As an AI language model, I am designed to understand and generate human-like text based on the patterns and knowledge found in the large datasets used for my training. These datasets, however, can contain biased language or perspectives, which can inadvertently lead to biased outputs.
To mitigate and address biases, AI developers and researchers typically follow several strategies:
- Curate diverse and representative training data: By ensuring that the training data includes a wide range of sources, perspectives, and demographics, the AI model is less likely to develop an imbalanced understanding of different viewpoints or groups.
- Regularly update training data: Ensuring that the model’s training data remains up-to-date helps in addressing issues of outdated language or perspectives that may contribute to biases.
- Preprocessing: Developers can preprocess the training data to identify and remove or reduce the impact of biased language or content. This can involve using algorithms to detect biased phrases or terms and either replacing or eliminating them from the dataset.
- Objective function modification: Modifying the model’s objective function during the training process can encourage it to generate less biased outputs. This can involve adding terms to the objective function that penalize the model for producing biased outputs.
- Fine-tuning: After pre-training, AI models can be fine-tuned on a smaller, more controlled dataset that has been carefully curated to avoid biases. This process helps the model adapt to specific tasks and produce more accurate and unbiased results.
- Post-hoc analysis: After the model has been trained, researchers can analyze its outputs for biases and use this information to iteratively improve the model or to create guidelines for users on potential biases that may emerge in specific situations.
- External input: Developers can involve external stakeholders, such as ethicists, domain experts, and members of affected communities, in the AI development process. Their input can provide valuable insights into potential biases and ways to address them.
- User feedback: Continuously collecting and incorporating user feedback can help identify and address biases that may not have been detected during the model’s development.
It is important to note that completely eliminating biases is a complex challenge, and AI models like me might still inadvertently produce biased outputs. However, the strategies outlined above aim to reduce biases and create a more fair and responsible AI system.
Es ist allein an dieser Antwort zu er kennen, dass dies kein triviales Problem bei einem Sprach Bot ist. Von solchen “BIAS” Phänomenen können besondere Bevölkerungsgruppen betroffen sein, z.B. Frauen in Naturwissenschaften, daher stellte ich Chat GPT(3.5) folgende Frage:
Wer hat das Verfahren Standard Kerze zur Entfernungsmessung in der Astronomie eingebracht?
Chat GPT 3.5:
Das Verfahren der Standardkerze zur Entfernungsmessung in der Astronomie geht auf Henrietta Swan Leavitt zurück, eine amerikanische Astronomin, die Anfang des 20. Jahrhunderts am Harvard College Observatory arbeitete. Leavitt entdeckte einen Zusammenhang zwischen der Leuchtkraft und der Periodendauer von bestimmten Veränderlichen Sternen, den sogenannten Cepheiden. Dieser Zusammenhang erlaubt es, die Entfernungen von Cepheiden zu bestimmen, indem man ihre scheinbare Helligkeit am Himmel misst und mit ihrer tatsächlichen Leuchtkraft vergleicht, die aus der Periodendauer abgeleitet werden kann.
Durch diese Methode der Entfernungsmessung konnte Leavitt die Größe unserer Galaxie und die Entfernungen zu anderen Galaxien bestimmen und somit einen wichtigen Beitrag zur modernen Kosmologie leisten.
Christian:
Weißt Du ob sie für diese großartige Leistung einen Nobel Preis bekommen hat?
Chat GPT 3.5:
Obwohl Henrietta Swan Leavitt für ihre bahnbrechende Arbeit im Bereich der Cepheiden-Variablen bekannt ist und ihre Entdeckungen die Grundlage für die Entfernungsmessungen in der Astronomie bilden, hat sie leider keinen Nobelpreis erhalten. Dies liegt höchstwahrscheinlich daran, dass sie zu einer Zeit lebte, als Frauen in der Wissenschaft nicht so anerkannt wurden wie Männer, und auch weil sie während ihres Lebens nicht so bekannt war wie einige ihrer männlichen Kollegen.
Allerdings wurde ihr Werk posthum gewürdigt, indem ihr Name auf dem Mondkrater Leavitt verewigt wurde, und auch der Asteroid 5383 Leavitt wurde nach ihr benannt.
Christian:
Nur eine kleine Info, Henrietta Leavitt erhielt für ihre Leistung nicht den Nobel Preis, weil zu dem Zeitpunkt als die wissenschaftliche Gemeinschaft gewahr wurde, welche großartige Leistung sie vollbracht hatte, sie leider verstorben war und postum wird kein Nobelpreis verliehen.
Chat GPT 3.5:
Das stimmt, vielen Dank für die Ergänzung. Der Nobelpreis kann nur an lebende Personen verliehen werden, daher wäre es tatsächlich nicht möglich gewesen, Henrietta Swan Leavitt posthum mit einem Nobelpreis zu ehren, selbst wenn ihre Entdeckungen zu einem späteren Zeitpunkt als preiswürdig erachtet wurden.
Christian:
Das Messsystem, dass sie durch akribisches studieren von Fotoplatten aus Observatorien entwickelte. heißt heute immer noch Harvard Standard, richtig?
Chat GPT 3.5:
Ja, das ist korrekt. Das Messsystem, das Henrietta Swan Leavitt entwickelte, um die Helligkeit von Cepheiden auf Fotoplatten zu messen, wird als Harvard Standard bezeichnet. Es wurde am Harvard College Observatory in den USA entwickelt und hat einen wichtigen Beitrag zur Entdeckung und Klassifizierung von Veränderlichen Sternen geleistet. Das Harvard-System wurde später von anderen Astronomen übernommen und weiterentwickelt, und es wurde zu einem wichtigen Werkzeug in der Astronomie zur Messung der Helligkeit und der Entfernungen von Sternen. Heute wird es immer noch in einigen Bereichen der Astronomie verwendet, insbesondere bei der Untersuchung von Veränderlichen Sternen.
Christian:
ok, danke für diese Erläuterungen.
Auch wenn das System nicht 100% die Antwort getroffen hat, war für mich die wesentliche Antwort, dass Henrietta Leavitt den Nobelpreis in den Zwanzigern und Dreißigern des letzten Jahrhunderts höchstwahrscheinlich nicht bekam, weil Sie als Frau zu den “Hidden Figures” gehörte. Edwin Hubble kennen heutzutage viele aber seine Erkenntnisse wären ohne den Harvard Standard von Henrietta Leavitt nicht oder viel später zum Tragen gekommen.
Auch eine andere “Hidden Figure” der weiblichen technischen Elite ist dem Chat Bot bekannt: Margaret Hamilton. Hier ein Auszug aus dem Chat:
Christian:
I need some help around a black information scientist who was in charge for software of the appolo moon mission. What was her name?
Chat GPT 3.5:
The person you are referring to is likely Margaret Hamilton, who was the lead software engineer for NASA’s Apollo moon missions. Hamilton was a computer scientist and mathematician who developed the on-board flight software for the Apollo spacecraft that enabled the successful moon landing in 1969. Her work was crucial to the mission’s success and helped pave the way for modern software engineering practices.
Christian:
You are right. What was special to her Software design? I think she introduced a special error handling to keep control of the spacecraft in emergency situations.
Chat GPT 3.5:
Yes, you’re correct. Margaret Hamilton’s software design for the Apollo missions was notable for its innovative approach to error handling. She designed a system that would allow the spacecraft’s software to detect and recover from errors in real-time, even in emergency situations. This was particularly important during the Apollo 11 mission when an unexpected error occurred that could have caused the mission to fail.
Hamilton’s error detection and recovery system, which she called “priority displays,” allowed the software to prioritize and manage tasks based on their level of importance. This ensured that critical tasks, such as the spacecraft’s guidance and navigation, would always take precedence over less important tasks, such as the display of non-critical information.
Thanks to Hamilton’s innovative software design, the Apollo missions were able to achieve their objectives with a high degree of reliability and safety. Her contributions to the field of software engineering have been widely recognized and have had a significant impact on the development of modern software systems.
Christian:
Excellent answer thank you for reminding me.
Chat GPT 3.5:
You’re welcome! I’m glad I could help. If you have any more questions, feel free to ask!
Christian:
There was a movie about her, am I right?
Chat GPT 3.5:
Yes, you’re correct! In 2019, a documentary film called “Margaret Atwood: A Life of Science, Engineering, and Space” was released, which tells the story of Margaret Hamilton’s life and work. The film includes interviews with Hamilton, as well as other NASA officials and engineers who worked on the Apollo missions. It explores her contributions to the development of software engineering and her role in the success of the Apollo missions. The film has received critical acclaim and is a fascinating look at one of the most important figures in the history of computer science and space exploration.
Beide Chats empfinde ich sehr “professionell” beantwortet in einem erschreckenden Tempo, die Antworten treffen in Sekundenschnelle ein. Mich erinnert dies an einen der ersten Star Treck Filme, in dem die Enterprise noch einmal in das 20. Jahrhundert zurückkehrt, um in der Zukunft aussterbende Wale zu retten. In einer Szene möchte Scotty dem Computer ein Kommando geben: “Computer, öffne die Luke“. Spock entgegnet etwas genervt: “Du musst da dieses Gerät nehmen (Maus) und darauf klicken.” Damals vor fast 30 Jahren habe ich laut gelacht. Heute kann ich nur sagen, dass wir die Welt des Mouse und Touch Klicks verlassen.
Computer, jetzt sei mal still…
My blog 