MLUGS

Unser 35. Treffen ist am Dienstag, dem 17.03.2020 in der Marienstrasse 23 bei AX Semantics.

Language: German only.

Themen:

Tin: recap vfb-hackathon

YOLO v3 Darknet nachtrainiert und angewendet

Andreas: sigmorphon 2020

encoder-decoder shared-task(s) - erste exploration

Wir suchen weitere Vorträge

Wann:

17. März 2020 um 18:30

Wo:

Marienstrasse 23, Stuttgart, AX Semantics (2. OG)

Bitte meldet euch an unter:

https://www.meetup.com/Machine-Learning-UserGroup-Stuttgart

Protokoll

Vorstellungsrunde

• Tin, DHBW-Dozent
• Andreas, Software-Entwickler, AX-Semantics
• Frank, mlugs-Gründer
• Daniel, Wirtschaft-Informatiker / IT-Berufe-Ausbilder, Trumpf
• Ioana, Bosch-Rexrodt, IOT
• Jörg, Data-Engineer, Bosch
• Romeo, Rust-Meetup-Organizer, will KI mit SAP nutzen
• Andreas, Software-Entwickler, WGV
• Uwe, macht Raumfahrt, ST2C
• Stefan, ML-Berater, Deloitte
• Simon, Mathematiker, macht seit 2015 ML

+2 Nachzügler

Uwe: Kaggle Survey

• Kaggle bietet datasets und problemstellungen
• sinn der survey: was wird so benutzt, welche platformen
• häufigste algorithmen: linear / logistic regression; decision tree/random tree; gradient boosting

podcasts:

• https://changelog.com/practicalai
• https://lexfridman.com/ai/

online-kurse:

• viel coursera
• kaggle lean
• udemy
• fast.ai

weitere automated ML (nicht in der liste):

• https://github.com/automl/Auto-PyTorch

Slides von Uwe: http://machinelearningintro.uwesterr.de/KaggleSurvey.html

Tin: Adversarial-ML hacking NNs

Hacking NNs mit FGSM

• panda beispiel: panda bild + X wird als Gibbon erkannt
• https://www.tensorflow.org/tutorials/generative/adversarial_fgsm
• https://pytorch.org/tutorials/beginner/fgsm_tutorial.html
• https://github.com/IBM/adversarial-robustness-toolbox

slides: https://github.com/tvotan/mlugs_adversarial_ml/blob/master/mlugs_adversarial_ml.pdf

misc

• meetup zu chatbots: https://www.meetup.com/ChatbotStuttgart/events/267929038/

• tesseract-ocr ist gut: https://github.com/tesseract-ocr/tesseract

• gute blogposts zu opencv: https://www.pyimagesearch.com/

• numpy/pandas in schnell mit Rust: https://www.weld.rs/

• python-regex in schnell mit Rust: https://github.com/davidblewett/rure-python

next

• Date: 2020-03-17
• Themen:
• Tin: recap vfb-hackathon - https://www.vfb-hackathon.de/de
• (bitte meldet euch, wenn ihr einen Vortrag habt)

Unser 34. Treffen ist am Dienstag, dem 18.02.2020 in der Marienstrasse 23 bei AX Semantics.

Language: German only.

Themen:

Uwe: Kaggle Survey

Tin: Adversarial-ML hacking NNs

Wir suchen weitere Vorträge

Wann:

18. Februar 2020 um 18:30

Wo:

Marienstrasse 23, Stuttgart, AX Semantics (2. OG)

Bitte meldet euch an unter:

https://www.meetup.com/Machine-Learning-UserGroup-Stuttgart

Protokoll

Vorstellungsrunde

• Andreas, Software-Entwickler, AX-Semantics
• Uwe, ST2C
• Florian, Kärcher
• Alessandro, Security Manager, Bosch
• Brian
• Julian, Master-Student, Bosch
• Thomas, Data-Scientist, AB Sensing
• Jan, Mathematiker, selbständig
• Roland
• Jacob, Data-Scientist, Allianz
• Ralf, Data-Scientist
• Jens, Data-Scientist, AKKA
• Tin, Dozent, DHBW Stuttgart

+2 Nachzügler

Jens: alibi und tf-explain

• Erklärbarkeit ist sinnvoll
• auch zur Erkennung von falschen labels

tf-explain

• https://github.com/sicara/tf-explain
• sehr nah an tensorflow/keras
• ermöglicht heatmaps der aktivierungen
• Visualisierung von Gradienten
• Occlusion Sensitivity verdeckt Teile des Bildes und erreichnet so die Teile des Bildes, die am meisten zur Erkennung beitragen

alibi

• https://github.com/SeldonIO/alibi
• https://docs.seldon.io/projects/alibi/en/stable/overview/algorithms.html

Anchors:

• 3 verschiedene Arten von Modellen: Tabular, Text, Images
• https://docs.seldon.io/projects/alibi/en/stable/methods/Anchors.html

CEM:

• feature entfernen bei gleicher aussage
• https://docs.seldon.io/projects/alibi/en/stable/methods/CEM.html

CF:

• wieviel veränderung ist nötig, um die klasse zu wechseln
• verwendet eine distanz-funktion um die änderung zu bestimmen
• https://docs.seldon.io/projects/alibi/en/stable/methods/CF.html

Counterfactuals Guided by Prototypes:

• https://docs.seldon.io/projects/alibi/en/stable/methods/CFProto.html

TrustScores:

• versucht hohes vertrauen durch distanz auszurechnen
• https://docs.seldon.io/projects/alibi/en/stable/methods/TrustScores.html

Beispiele:

• https://github.com/SeldonIO/alibi/blob/master/examples/

für Pytorch:

• https://captum.ai/tutorials/Resnet_TorchVision_Interpret
• https://allennlp.org/interpret

Tin: Demo streamlit.io

• alles in Python. kein Frontend mehr nötig. Deployment auch gelöst.
• ziel: für data-scientist schneller dinge ins web bringen
• opensource: https://github.com/streamlit/streamlit
• coole demo: https://github.com/streamlit/demo-self-driving

konkurrenten:

• https://github.com/voila-dashboards/voila
• https://github.com/plotly/dash

next

• Date: 2020-02-18
• Themen
• Uwe: Kaggle Survey
• Tin: Adversial-ML hacking NNs

Unser 33. Treffen ist am Dienstag, dem 21.01.2020 in der Marienstrasse 23 bei AX Semantics.

Language: German only.

Themen:

Jens: alibi und tf-explain

Tin: Demo streamlit.io

Wir suchen weitere Vorträge

Wann:

21. Januar 2020 um 18:30

Wo:

Marienstrasse 23, Stuttgart, AX Semantics (2. OG)

Bitte meldet euch an unter:

https://www.meetup.com/Machine-Learning-UserGroup-Stuttgart

Protokoll

Vorstellungsrunde

• Andreas, Software-Entwickler, AX-Semantics
• David, Digital-Analytics-Consultant, Diconium
• Thomas, Data-Scientist, AP Sensing
• Florian, Leitet Inteligente Systeme, Kärcher
• Silvana, Data-Scientist, Breuninger
• Abdul, Data-Scientist, Daimler
• Julian, Cloud-Architect, Nordcloud
• Kai, privat
• Sasha, Consultant, Adweco
• Wilhelm, Software-Engineer, privat
• Andreas, Software-Entwickler, WGV
• Jens, Data-Scientist, AKKA

• Alex, Bosch

• 2 Nachzügler

Alessandro: Hippocampal-based learning

• aktuelle verfahren sind sehr weit weg von general-AI
• genetischer algorithmus als ersatz für back-propagation
• feature trainieren, die stabiler sind (i.e. zwei werte werden durch ein feature unterschieden und durch ein anderes nicht unterschieden)

Tin: machine learning and security

https://www.amazon.de/Machine-Learning-Security-Protecting-Algorithms/dp/1491979909

• webseite zum buch: https://mlsec.net/
• hands-on-buch
• setzt python und DL-Grundlagen voraus

• code zum buch: https://github.com/oreilly-mlsec/book-resources

• anomaly detection: novelty detection oder outlier detection

• beispiele mit OneClassSVMs und IsolationForest

• adversarial machine learning

• paper zum thema: https://arxiv.org/abs/1602.02697

• beispiele mit MLPClassifier

• code von Tin zum Vortrag: https://github.com/tvotan/MLUGS_ml_and_security

next

• Date: 2020-01-21

• Themen

  • Jens: alibi und tf-explain
  • Tin: Demo streamlit.io

Unser 32. Treffen ist am Dienstag, dem 19.11. in der Marienstrasse 23 bei AX Semantics.

Language: German only.

Themen:

Tin: machine learning and security

Alessandro: Hippocampal-based learning

Wir suchen weitere Vorträge

Wann:

19. November 2019 um 18:30

Wo:

Marienstrasse 23, Stuttgart, AX Semantics (2. OG)

Bitte meldet euch an unter:

https://www.meetup.com/Machine-Learning-UserGroup-Stuttgart

Protokoll

Vorstellungsrunde

• Andreas, Software-Entwickler, AX-Semantics
• Lukas, Data-Scientist, Sprint.Eins
• Jens, Data-Scientist, AKKA,
• Leo, master Luft- und Raumfahrttechniker, sucht Phd-Stelle
• Michael, Software-Entwickler, AX-Semantics
• Sven, Data-Scientist / Projektmanager Digitalisierung, Mosolf
• Matthias, Data-Engineer, Mosolf
• Sebastian, Computerlinguist, IBM

Tin: machine learning and security

wegen Krankheit verschoben auf November

Andreas: digit recognition

bisherige Blogposts:

• https://madflex.de/posts/find-and-crop-using-opencv/
• https://madflex.de/posts/find-and-crop-using-opencv/

weitere Posts folgen in den nächsten Wochen mit dem Inhalt des Talks.

next

• date: 2019-11-19

• Themen:

  • Tin: machine learning and security
  • Alessandro: Hippocampal-based learning

Unser 31. Treffen ist am Dienstag, dem 15.10. in der Marienstrasse 23 bei AX Semantics.

Language: German only.

Themen:

Tin: machine learning and security

Andreas: digit recognition

Wir suchen weitere Vorträge

Wann:

15. Oktober 2019 um 18:30

Wo:

Marienstrasse 23, Stuttgart, AX Semantics (2. OG)

Bitte meldet euch an unter:

https://www.meetup.com/Machine-Learning-UserGroup-Stuttgart

Protokoll

Vorstellungsrunde

• Andreas, Software-Entwickler, AX-Semantics
• Uwe, Laser-Kommunikation. ST2C
• Xiake, ITK Engineering
• Kexin, Machine-Learning-Eng., Bosch
• Nela, Daimler
• Ioana, Bosch
• Michael, Software-Engineer, AX-Semantics
• Christian, baut Anlagen zur Batteriefertigung, Daimler
• Tin, wiss. Mitarbeiter, Frauenhofer
• Thomas, Data-Scientist
• Kai, Anfänger in ML
• Sasha, Consultant, ADWEKO
• Jens, Data-Scientist, AKKA
• Sebastian, Software-Engineer, IBM
• Nicola, Journalistin, will Insekten zählen

Nicola: Vorstellung Insekten-Counter-Projekt mit Maschine Learning

• https://ecocurious.de

• https://www.meetup.com/Ecocurious-deine-Umwelt-Natur-und-Technik-Community/

• Methode 1: optisches Mikrofon - Infrarot-Dioden auf Licht-Sensoren -> akkustik

• Methode 2: mit Kamera fotografieren (raspi + picam)

• suchen Unterstützung bei der Hardwareentwicklung und beim Klassifizierung

• verwendet gnuradio zur Auswertung

• aktueller Stand: methoden finden Daten zu sammeln; danach klassifiezieren wieviele/welche Insekten

• Bienen zählen: https://www.apic.ai

• event-camera: http://rpg.ifi.uzh.ch/research_dvs.html
• vielleicht in der Wilhelma im Tropenhaus Fotos machen
• "zeitmultiplexing Spektroskopie"

Sebastian: regelbasierte vs. ML-basierte Informationsextraktion

• rule-based am Beispiel von AQL: vorteile der RDMBS-Erfahrungen ausnutzen
• Regeln schreiben kann sehr viel besser sein als (nur) Trainingsdaten für ein NN zu annotieren
• 80%-NNs sind noch nicht produktionsreif!
• es gibt Probleme, die man immernoch am besten mit rule-based-systemen löst

Andreas: Encoder-Decoder Attention plots

recap

• https://github.com/mfa/talks/blob/master/20190521--morphological-inflection-using-encoder-decoder-networks/slides.md

insights about attention with a simple example

• reimplementation of https://joeynmt.readthedocs.io/en/latest/tutorial.html with allennlp
• code: https://github.com/mfa/allennlp-reverse-seq2seq
• https://madflex.de/posts/allennlp--reverse-sequence-example/
• uses general/bilinear attention: https://arxiv.org/pdf/1508.04025.pdf
• model code is a copy of allennlp version with a patch applied, that adds attention vectors to output
• https://madflex.de/posts/allennlp--sequence-to-sequence-attention-plots/

next

• date: 2019-10-15
• talks:
  • Tin: machine learning and security
  • Andreas: digit recognition