Learnings Archives

WSL 2 auf Windows 10 – Aktivieren Sie das Windows-Feature “VM-Plattform”, und stellen Sie sicher, dass die Virtualisierung im BIOS aktiviert ist.

Kommentar verfassen / Andere, Learnings / Von Hung Manh

Vor einiger Zeit habe ich WSL 2 auf Windows 10 korrekt installiert, ausgeführt und auch damit gearbeitet. Allerdings habe ich danach mit dem Android-Emulator BlueStack herumgespielt, der Hyper-V verwendet. Nachdem ich alle Einstellungen vorgenommen hatte, um BlueStack zum Laufen zu bringen, stellte ich fest, dass mein WSL 2 nicht mehr funktionierte. Beim Starten gab es …

WSL 2 auf Windows 10 – Aktivieren Sie das Windows-Feature “VM-Plattform”, und stellen Sie sicher, dass die Virtualisierung im BIOS aktiviert ist. Weiterlesen »

Visuelle Erklärung der Multi-Head Attention

Kommentar verfassen / Learnings, Machine Learning Engineering / Von Hung Manh

Warum ändert sich bei einer Änderung der Anzahl der Heads eines Transformermodell nicht dessen Anzahl an Parametern? – Das war die Frage, die ich mir gestellt habe. Nachdem ich die entsprechende Matrizenmultiplikation nachvollzogen und zu einem entsprechendem Ergebnis gekommen bin, möchte ich dieses Wissen weitergeben und versuchen, den Multi Head Attention (MHA) Mechanismus an einem …

Visuelle Erklärung der Multi-Head Attention Weiterlesen »

Unterschied zwischem dem Tokenizer und PreTrainedTokenizer

Kommentar verfassen / Learnings, Machine Learning Engineering / Von Hung Manh

Da ich recht zufällig in des Transformers framework reingezogen wurde, hatte ich anfangs einige Probleme gehabt, die verschiedenen Komponenten zu verstehen. In diesem Beitrag würde ich gerne mein Verständnis zum Tokenizer teilen und wie man special_tokens einbauen kann, um sie später in einem languagemodel Training zu verwenden. Achtung. Dies sind meine eigenen Notizen und Verständnis …

Unterschied zwischem dem Tokenizer und PreTrainedTokenizer Weiterlesen »

Statistiken, Statistiken, Statistiken!

Kommentar verfassen / Data Engineering & Tools, Learnings / Von Hung Manh

Wir hatten eine moderat komplexe Query, die ca. 270000 Zeilen umfasste, allerdings über eine Stunde lief. Nachdem Statistiken zu der darunterliegenden Tabelle aktualisiert wurden, lief die Query in nur 4 Sekunden durch.

Objekte im OCI bucket verschieben

Kommentar verfassen / Data Engineering & Tools, How to, Learnings / Von Hung Manh

Gerade bin ich wohl über einer meiner Meisterstreiche in Sachen Dokumentation gestolpert. In der oracle cloud lassen sich Objekte nicht einfach verschieben, stattdessen geschieht dies über einen Umweg von Kopier- und Löschvorgängen.

NULL Werte und ihre Tücken

Kommentar verfassen / Data Engineering & Tools, Learnings / Von Hung Manh

Merke: Am besten keine NULL Werte in kritischen Spalten zulassen, die für Vergleichsoperationen genutzt werden Wenn NULL Werte mit anderen Zeichenketten verglichen werden, so ist das Ergebnis stets falsch. Dies kann zu hoher Frustration und Verwirrung führen, da es nicht das zu erwartende Verhalten wiederspiegelt. SELECT CASE WHEN NULL = ‘test’ THEN 1 ELSE 0 …

NULL Werte und ihre Tücken Weiterlesen »