Tag Archives: software

Neural Network – really easy explained – I mean: really!

26 Samstag Mrz 2016

Posted by in Artificial Intelligence, Technologie

≈ Leave a Comment

Tags

, , , , ,

There is a lot talking going on about neural networks, deep learning, artifical intelligence. When people talk about neural networks I sometimes get the impression, that they think it’s

  1. either some almost lifelike thing : „it’s like the brain!“
  2. or that it’s really complicated math stuff, which no „normal“ person can understand.

Well first things first: it’s nothing lifelike at all.

It is actually just math: just adding and multiplying numbers. And it really looks complicated. But if you bite through all this math formulas, some books and some online video tutorials you get the impression, that the basics are not some kind of „higher math“ – it’s just complicated because you have a lot of numbers to calculate with.

 

If you have a bunch of numbers on a page, you can get really confused, what to multiply and add with what and where. To learn this stuff and to understand it sustainably(!) I needed some simple examples with which I can repeat this stuff again and again. And I learn best, if I explain it to someone else – therefore I wanted to create a presentation about neural networks.

A couple of month ago I stumbled over Trask’s article in which he wrote a neural network in just 11 lines of code.1 That really helped me a lot in doing my slides. I reused his code to calculate the numbers you find in this article. I plan to publish my IPython notebook corresponding to this article as well. It’s just not ready yet :-)

So, have fun!

 

And yeah it reeeeally looks complicated in math :-)

Andrew Ng explains Neural Network Backpropagation in the coursera machine learning MOOC

Andrew Ng explains neural network backpropagation in the coursera machine learning MOOC

But do not get me wrong: Andrew Ng is a really good and really pleasant teacher and I really like his course. I still look at it form time to time, if something is unclear to me (again :-). If you had a view at my slides and still want to know more about neural networks, I highly recommend his course. The math formulas do really have their rights here, because there is no better language to encapsulate the whole calculation process in just some tiny symbols. Understanding the formulas makes it much easier to talk about changes in the calculations in different implementations of neural networks. And in the course there is more stuff about neural networks. For example how to avoid errors like the one on my last screens.

  1. In case you wonder, how you can calculate so many numbers in just 11 lines of code: That’s another story about matrix multiplication, which is just like a „writing simplification“ of doing all the equations manually – if you need to refresh your school knowledge about matrix multiplication, I highly recommend the Khan-Academy. [↩]

Maschinen verstehen

06 Mittwoch Aug 2014

Posted by in Artificial Intelligence, Learning, Technologie

≈ 4 Comments

Tags

, , , , , , , , ,

In den letzten Monaten habe ich mich viel mit Künstlicher Intelligenz beschäftigt und bin nach wie vor fasziniert von dem Thema – bzw den Themen, denn es gibt so viele verschiedene Technologien und Ansätze.

  • Eine sehr gute Einführung, die einem die Geschichte, die Ansätze und Einsatzbereiche der KI nahe bringt: „Künstliche Intelligenz“ von Günter Görz und Bernhard Nebel.
  • Tiefgehender ist der „Grundkurs künstliche Intelligenz“ Wolfgang Ertel.
  • Data Mining und Maschinelles Lernen nutzen teilweise die gleichen Technologien – von daher fand ich den Quereinstieg über „Data Analysis with Open Source Tools“ von Philipp K. Janert auch interessant – auch wenn ich es noch nicht anwenden konnte, glaube ich dass das Hintergrundwissen mit noch zu Gute kommt.
  • Web Data Mining von Bing Liu bietet noch weitere Methoden wie Association Rules zur Wissens-Generierung aus Daten, die ich sicher noch verwenden kann.
  • Hat man die Grundlagen verstanden, lohnt sich der kostenlose Online-Kurs von Andrew Ng sehr! Hier wird das Verständnis für Neuronale Netze aus den mathematischen Grundlagen und anhand von Programmier-Beispielen in Octave aufgebaut. Danach wir einem klar, wie „einfach“ die Algorithmen letztlich sind. Mit einfach meine ich, dass sie gar nicht so kompliziert sind, wie sie anfangs erscheinen – einfach heißt nicht dumm. Sie sind extrem leistungsfähig, und die Menschen, die sie erdacht haben sind äußerst gewitzt vorgegangen. Mein Respekt – aber auch Verständnis – für Mathematiker ist in dem Kurs nochmal gewachsen.

Allerdings bin ich auch ein wenig enttäuscht. Sicherlich habe ich bisher nur an der Oberfläche gekratzt, kenne nur die Werkzeuge und ich lasse mich gerne noch überraschen. Mein erster Eindruck ist aber, dass wir noch weit, weit, weit von einer „echten“ künstlichen Intelligenz – einer „starken KI“ entfernt sind, die einen Menschen in seinen Problemlösungs-Fähigkeiten und mit Bewusstsein nachbilden soll. Auf einer Skala von „normaler“ Software(1) bis „menschlicher“ Intelligenz(10) liegt die KI bei maximal 3 würde ich behaupten. Dafür hole ich ein wenig aus – hoffe ihr habt ein paar Minuten – aber es wird interessant – versprochen :-) Continue reading »

Unternehmen werden Technikanbieter – Haben Sie es schon mit Aus- und Einschalten versucht?

14 Donnerstag Nov 2013

Posted by in Leadership

≈ 2 Comments

Tags

, , , ,

Interessanter Artikel bei Computerwoche.de

Wenn man davon ausgeht, dass in der Zukunft fast jedes Gerät über 100 Euro einen Sensor haben wird, dann wird auch jedes Unternehmen zum Technikanbieter. Kaum ein Unternehmen wird um das „Internet der Dinge“ herum kommen.

Dringt die Technik so tief in den verschiedensten Unternehmensbereichen ein, hat das nicht nur Einfluss auf die einzusetzenden Technologien. Die einzelnen Unternehmensbereiche werden Technik-Kompetenz entwickeln (müssen) und die IT-Abteilungen werden stärker mit den Fachabteilungen zusammenarbeiten (müssen). Die klassische Trennung von IT-Abteilung, die dafür sorgt, dass die Infrastruktur läuft und Fachabteilungen, die diese Infrastruktur nutzen, wird sich weiter auflösen.

Ich glaube, dass das bei vielen Unternehmen nicht nur ein Frage von technischen Schulungen ist, sondern auch ein Umdenken erfordert. Viele IT-Mitarbeiter kommen heute erst mit Angestellten anderer Abteilungen in Kontakt, wenn etwas NICHT funktioniert. Dementsprechend hören sie erstmal Beschwerden:

  • Warum ist das wieder kaputt?
  • Wieso hat das keiner vorher gemerkt?
  • Habt ihr da kein Auge drauf?
  • Ich hoffe nur ihr habt ein Backup gemacht!

Wie berechtigt die Fragen auch sein mögen – es ist kein Wunder, dass sich eine Kultur der Abwehr entwickelt.

Nicht hilfreich ist im Weiteren, dass die meisten ITler sich technisch überlegen fühlen – meistens mit Recht, denn die Technik ist ihr Fachgebiet. Zumal die Anfragen in Ihren Augen oft von Dummheit geprägt sind – ich sage nur: „Hallo, IT – Haben Sie es schon mit Aus- und Einschalten versucht?“ – das Netz ist voll von IT-Witzen.

IT_Crowd_Helpdesk_by_surlana-600x479

Eigentlich sind Sie ganz lieb.

Wenn ich als ITler (ich überspitze ein wenig):

  • meine Mitarbeiter als chronisch dumm empfinde,
  • mich eh überlegen fühle,
  • und bei jeder Anfrage damit rechne, dass sich dahinter erstmal eine Beschwerde verbirgt,

ist das alles andere als hilfreich, um von einer „Kultur der Abwehr“ auf eine „Kultur der Zusammenarbeit“ umzuschalten.

So gesehen stehen wir wirklich an einem Scheidepunkt. Nicht nur wegen der Entscheidung „Denke ich ab jetzt strategisch?“, sondern auch, wenn es darum geht wie wir die Leute zum Umdenken bekommen: Haben Sie es schon mit Aus- und Einschalten versucht?

Absolute Beginner – Lernen mit Abstand

09 Sonntag Jun 2013

Posted by in Learning

≈ 3 Comments

Tags

, , , , , ,

Das Tolle an einer abwechslungsreichen Arbeit ist, dass man verdammt viel daraus lernen kann. Da rattert soviel durch, dass ich manchmal den Drang spüre das ganze ein wenig zu strukturieren. Und das hier ist eines der Themen.

Praktikanten und Berufsanfänger in der Softwareentwicklung machen immer wieder ähnliche Fehler. Fehler an die ich mich auch aus meiner Anfangszeit noch dunkel erinnere. Zumindest weiß ich noch, wie ich das ein oder andere Aha-Erlebnis hatte. (Und zum Glück habe ich immer noch ständig welche :-)

Beim Strukturieren der Fehler wird schnell klar, dass der Aha-Moment in jedem Fall eine Art „Abstand nehmen“ ist. Jedes Mal geht man einen Schritt zurück und guckt sich das Ganze etwas globaler an. Und dann merkt man, dass man selber – oder die eigene Annahme – doch nicht der Mittelpunkt der Welt ist. 

Continue reading »