aboutsummaryrefslogtreecommitdiffstats
diff options
context:
space:
mode:
authorMarc Benz <marc.benz@ost.ch>2022-05-12 15:46:25 +0200
committerMarc Benz <marc.benz@ost.ch>2022-05-12 15:46:25 +0200
commitff4ef37bd6529f26066ca8df8dd9b98fed71577a (patch)
treeb56f823e0ea5366fb2eebeda9d36ec89caa59667
parentinitial commit from Marc Benz (diff)
downloadSeminarSpezielleFunktionen-ff4ef37bd6529f26066ca8df8dd9b98fed71577a.tar.gz
SeminarSpezielleFunktionen-ff4ef37bd6529f26066ca8df8dd9b98fed71577a.zip
first changes
Diffstat (limited to '')
-rw-r--r--buch/papers/transfer/references.bib27
-rw-r--r--buch/papers/transfer/teil0.tex18
-rw-r--r--buch/papers/transfer/teil1.tex2
-rw-r--r--buch/papers/transfer/teil2.tex38
-rw-r--r--buch/papers/transfer/teil3.tex49
5 files changed, 56 insertions, 78 deletions
diff --git a/buch/papers/transfer/references.bib b/buch/papers/transfer/references.bib
index 75f5d68..181682c 100644
--- a/buch/papers/transfer/references.bib
+++ b/buch/papers/transfer/references.bib
@@ -4,6 +4,30 @@
% (c) 2020 Autor, Hochschule Rapperswil
%
+
+
+@article{transfer:DBLP:journals/corr/abs-1909-07729,
+ author = {Abhisek Kundu and
+ Sudarshan Srinivasan and
+ Eric C. Qin and
+ Dhiraj D. Kalamkar and
+ Naveen K. Mellempudi and
+ Dipankar Das and
+ Kunal Banerjee and
+ Bharat Kaul and
+ Pradeep Dubey},
+ title = {K-TanH: Hardware Efficient Activations For Deep Learning},
+ journal = {CoRR},
+ volume = {abs/1909.07729},
+ year = {2019},
+ url = {http://arxiv.org/abs/1909.07729},
+ eprinttype = {arXiv},
+ eprint = {1909.07729},
+ timestamp = {Sat, 04 Apr 2020 17:18:32 +0200},
+ biburl = {https://dblp.org/rec/journals/corr/abs-1909-07729.bib},
+ bibsource = {dblp computer science bibliography, https://dblp.org}
+}
+
@online{transfer:bibtex,
title = {BibTeX},
url = {https://de.wikipedia.org/wiki/BibTeX},
@@ -31,5 +55,4 @@
volume = 47,
pages = {607--627},
url = {https://doi.org/10.1016/j.acha.2017.11.004}
-}
-
+} \ No newline at end of file
diff --git a/buch/papers/transfer/teil0.tex b/buch/papers/transfer/teil0.tex
index 19d4961..4bec5bd 100644
--- a/buch/papers/transfer/teil0.tex
+++ b/buch/papers/transfer/teil0.tex
@@ -3,20 +3,10 @@
%
% (c) 2020 Prof Dr Andreas Müller, Hochschule Rapperswil
%
-\section{Teil 0\label{transfer:section:teil0}}
-\rhead{Teil 0}
-Lorem ipsum dolor sit amet, consetetur sadipscing elitr, sed diam
-nonumy eirmod tempor invidunt ut labore et dolore magna aliquyam
-erat, sed diam voluptua \cite{transfer:bibtex}.
-At vero eos et accusam et justo duo dolores et ea rebum.
-Stet clita kasd gubergren, no sea takimata sanctus est Lorem ipsum
-dolor sit amet.
+\section{Einleitung\label{transfer:section:teil0}}
+\rhead{Einleitung}
+
+
-Lorem ipsum dolor sit amet, consetetur sadipscing elitr, sed diam
-nonumy eirmod tempor invidunt ut labore et dolore magna aliquyam
-erat, sed diam voluptua.
-At vero eos et accusam et justo duo dolores et ea rebum. Stet clita
-kasd gubergren, no sea takimata sanctus est Lorem ipsum dolor sit
-amet.
diff --git a/buch/papers/transfer/teil1.tex b/buch/papers/transfer/teil1.tex
index c60f1ea..611e1ea 100644
--- a/buch/papers/transfer/teil1.tex
+++ b/buch/papers/transfer/teil1.tex
@@ -3,7 +3,7 @@
%
% (c) 2020 Prof Dr Andreas Müller, Hochschule Rapperswil
%
-\section{Teil 1
+\section{Padé-Approximation
\label{transfer:section:teil1}}
\rhead{Problemstellung}
Sed ut perspiciatis unde omnis iste natus error sit voluptatem
diff --git a/buch/papers/transfer/teil2.tex b/buch/papers/transfer/teil2.tex
index ce8f798..d79d80c 100644
--- a/buch/papers/transfer/teil2.tex
+++ b/buch/papers/transfer/teil2.tex
@@ -3,38 +3,16 @@
%
% (c) 2020 Prof Dr Andreas Müller, Hochschule Rapperswil
%
-\section{Teil 2
+\section{MiniMax-Polinom
\label{transfer:section:teil2}}
-\rhead{Teil 2}
-Sed ut perspiciatis unde omnis iste natus error sit voluptatem
-accusantium doloremque laudantium, totam rem aperiam, eaque ipsa
-quae ab illo inventore veritatis et quasi architecto beatae vitae
-dicta sunt explicabo. Nemo enim ipsam voluptatem quia voluptas sit
-aspernatur aut odit aut fugit, sed quia consequuntur magni dolores
-eos qui ratione voluptatem sequi nesciunt. Neque porro quisquam
-est, qui dolorem ipsum quia dolor sit amet, consectetur, adipisci
-velit, sed quia non numquam eius modi tempora incidunt ut labore
-et dolore magnam aliquam quaerat voluptatem. Ut enim ad minima
-veniam, quis nostrum exercitationem ullam corporis suscipit laboriosam,
-nisi ut aliquid ex ea commodi consequatur? Quis autem vel eum iure
-reprehenderit qui in ea voluptate velit esse quam nihil molestiae
-consequatur, vel illum qui dolorem eum fugiat quo voluptas nulla
-pariatur?
+\rhead{MiniMax-Polinom}
-\subsection{De finibus bonorum et malorum
+
+
+\subsection{Problemstellung
\label{transfer:subsection:bonorum}}
-At vero eos et accusamus et iusto odio dignissimos ducimus qui
-blanditiis praesentium voluptatum deleniti atque corrupti quos
-dolores et quas molestias excepturi sint occaecati cupiditate non
-provident, similique sunt in culpa qui officia deserunt mollitia
-animi, id est laborum et dolorum fuga. Et harum quidem rerum facilis
-est et expedita distinctio. Nam libero tempore, cum soluta nobis
-est eligendi optio cumque nihil impedit quo minus id quod maxime
-placeat facere possimus, omnis voluptas assumenda est, omnis dolor
-repellendus. Temporibus autem quibusdam et aut officiis debitis aut
-rerum necessitatibus saepe eveniet ut et voluptates repudiandae
-sint et molestiae non recusandae. Itaque earum rerum hic tenetur a
-sapiente delectus, ut aut reiciendis voluptatibus maiores alias
-consequatur aut perferendis doloribus asperiores repellat.
+\[
+\max _{a \leq x \leq b}|\operatorname{TanH}(x)-P(x)|
+\]
diff --git a/buch/papers/transfer/teil3.tex b/buch/papers/transfer/teil3.tex
index f707587..4464875 100644
--- a/buch/papers/transfer/teil3.tex
+++ b/buch/papers/transfer/teil3.tex
@@ -3,38 +3,25 @@
%
% (c) 2020 Prof Dr Andreas Müller, Hochschule Rapperswil
%
-\section{Teil 3
+\section{K-Tanh
\label{transfer:section:teil3}}
-\rhead{Teil 3}
-Sed ut perspiciatis unde omnis iste natus error sit voluptatem
-accusantium doloremque laudantium, totam rem aperiam, eaque ipsa
-quae ab illo inventore veritatis et quasi architecto beatae vitae
-dicta sunt explicabo. Nemo enim ipsam voluptatem quia voluptas sit
-aspernatur aut odit aut fugit, sed quia consequuntur magni dolores
-eos qui ratione voluptatem sequi nesciunt. Neque porro quisquam
-est, qui dolorem ipsum quia dolor sit amet, consectetur, adipisci
-velit, sed quia non numquam eius modi tempora incidunt ut labore
-et dolore magnam aliquam quaerat voluptatem. Ut enim ad minima
-veniam, quis nostrum exercitationem ullam corporis suscipit laboriosam,
-nisi ut aliquid ex ea commodi consequatur? Quis autem vel eum iure
-reprehenderit qui in ea voluptate velit esse quam nihil molestiae
-consequatur, vel illum qui dolorem eum fugiat quo voluptas nulla
-pariatur?
+\rhead{K-Tanh}
-\subsection{De finibus bonorum et malorum
-\label{transfer:subsection:malorum}}
-At vero eos et accusamus et iusto odio dignissimos ducimus qui
-blanditiis praesentium voluptatum deleniti atque corrupti quos
-dolores et quas molestias excepturi sint occaecati cupiditate non
-provident, similique sunt in culpa qui officia deserunt mollitia
-animi, id est laborum et dolorum fuga. Et harum quidem rerum facilis
-est et expedita distinctio. Nam libero tempore, cum soluta nobis
-est eligendi optio cumque nihil impedit quo minus id quod maxime
-placeat facere possimus, omnis voluptas assumenda est, omnis dolor
-repellendus. Temporibus autem quibusdam et aut officiis debitis aut
-rerum necessitatibus saepe eveniet ut et voluptates repudiandae
-sint et molestiae non recusandae. Itaque earum rerum hic tenetur a
-sapiente delectus, ut aut reiciendis voluptatibus maiores alias
-consequatur aut perferendis doloribus asperiores repellat.
+\subsection{Algorithmus
+\label{transfer:subsection:Ktanh-Algorithmus}}
+\cite{transfer:DBLP:journals/corr/abs-1909-07729}
+\subsubsection{Vereinfacht
+\label{transfer:subsection:Ktanh-Algorithmus:Vereinfacht}}
+Negative Werte werden nicht separat behandelt. Diese werden dank der Syymertrie um den Ursprung mit einem einfachen Vorzeichenwechsel aus den positiven berechnet.
+Für $x < 0.25$ gilt $y = x$.
+Ist $x > 3.75$ gitl $y = 1$.
+Ist der Wert zwischen diesen Grenzen, werden über einen Lookuptable geeignete Werte gefunden um aus dem $x$ die Approximation des Tanh zu berechnen.
+Dafür werden eine bestimmte Anzahl LSBs des Exponenten und MSBs der Mantisse zu einem Index $t$ zusammengestzt. Der dann die Stelle im Lookuptable zeigt.
+Damit werden die richtigen Werte für $E_{t}, r_{t}, b_{t}$ aus der Tabelle, die im Vorhinein schon berechnet wurden, ausgelesen.
+Damit hat man das $E$ bereits gefunden und mit der Formel
+\[
+ M_{o} \leftarrow\left(M_{i} \gg r\right)+b
+\]
+kann das neue $M$ berechnet werden.