Neues Zitat: Knuth.
[diplomarbeit.git] / diplomarbeit.tex
1 \documentclass[a4paper,11pt]{article}
2 \usepackage[utf8]{inputenc}
3 \usepackage{ngerman}
4 \usepackage{fancyhdr}
5 \usepackage{geometry}
6 \usepackage{amsmath, bbm}
7 \usepackage{amsfonts}
8 \usepackage{amssymb}
9 \usepackage{listings}
10 \usepackage{graphicx}
11 \usepackage{url}
12 %\usepackage{longtable}
13 \usepackage{subfigure}
14 \usepackage{icomma}
15
16 \usepackage{tikz}
17 \usetikzlibrary{arrows,shapes}
18
19 % Fuer mathtoolsset
20 \usepackage{mathtools}
21
22 \geometry{paper=a4paper,margin=30mm}
23
24 \pagestyle{fancy}
25 %\fancyhf{}
26 %\fancyhead[LO,LE]{"Ubung zu Computational Intelligence}
27 %\fancyhead[CO,CE]{2006-05-15}
28 %\fancyhead[RO,RE]{Florian Forster (2099894)}
29
30 \title{Evolutionäre Optimierung von Sortiernetzwerken}
31 \author{Florian Forster}
32 \date{\today}
33
34 \newcommand{\false}{\textsc{False}}
35 \newcommand{\true}{\textsc{True}}
36 \newcommand{\todo}[1]{{\bf TODO:} #1}
37 \newcommand{\qed}{\hfill $\Box$ \par \bigskip}
38
39 \newtheorem{definition}{Definition}
40 \newtheorem{satz}{Satz}
41
42 % Zeige Nummern nur bei referenzierten Gleichungen an.
43 \mathtoolsset{showonlyrefs=true}
44
45 \begin{document}
46
47 \tikzstyle{vertex}   = [circle,draw,thick,fill=black,minimum size=5,inner sep=0pt]
48 \tikzstyle{comp}     = [draw,thick,-]
49 \tikzstyle{compup}   = [draw,thick,->]
50 \tikzstyle{compdown} = [draw,thick,<-]
51 \tikzstyle{edge}     = [draw,thick,-]
52 \tikzstyle{diredge}  = [draw,thick,->]
53 \tikzstyle{prob}     = [font=\tiny]
54
55 \tikzstyle{edge minimum} = [edge,color=blue!20]
56 \tikzstyle{edge maximum} = [edge,color=red!20]
57 \tikzstyle{vertex active minimum} = [vertex,color=blue!50, fill=blue!50]
58 \tikzstyle{vertex active maximum} = [vertex,color=red!50, fill=red!50]
59 \tikzstyle{vertex active minimum maximum} = [vertex,color=violet!50, fill=violet!50]
60 \tikzstyle{vertex inactive minimum} = [vertex,color=blue!20, fill=blue!20]
61 \tikzstyle{vertex inactive maximum} = [vertex,color=red!20, fill=red!20]
62 \tikzstyle{vertex inactive minimum maximum} = [vertex,color=black!20, fill=black!20]
63 \tikzstyle{comp active minimum} = [comp]
64 \tikzstyle{comp active maximum} = [comp]
65 \tikzstyle{comp active minimum maximum} = [comp,color=black!20]
66 \tikzstyle{comp inactive minimum} = [comp,color=blue!20]
67 \tikzstyle{comp inactive maximum} = [comp,color=red!20]
68 \tikzstyle{comp inactive minimum maximum} = [comp,color=black!20]
69
70 \tikzstyle{red box}   = [draw,-,color=red, top color=red!2,bottom color=red!10]
71 \tikzstyle{blue box}  = [draw,-,color=blue,top color=blue!2,bottom color=blue!10]
72 \tikzstyle{green box} = [draw,-,color=teal,top color=teal!2,bottom color=teal!10]
73 \tikzstyle{gray box}  = [draw,-,color=black, top color=black!2,bottom color=black!10]
74
75 \maketitle
76 \begin{abstract}
77 Sortiernetzwerke werden eingeführt und einige bekannte Konstruktionen werden
78 vorgestellt (Off-Even-Transposition, Bitonic-Merge, Odd-Even-Merge, Pairwise).
79 Transformationsmöglichkeiten für Sortiernetzwerke werden besprochen.
80 Evolutionäre Algorithmen werden beschrieben und ein evolutionärer
81 Algorithmus für die Optimierung von Sortiernetzwerken wird angegeben.
82 Die mindestens von diesem Algorithmus erreichte Güte wird angegeben und die
83 Transformation zu einer Markov-Kette wird gezeigt. {\em Natürlich: So fern ich
84 das hinbekomme bzw. Recht behalte.}
85 \end{abstract}
86 \newpage
87
88 \tableofcontents
89
90 \newpage
91 \section{Motivation und Einleitung}
92
93 \subsection{Motivation}\label{sect:motivation}
94
95 \begin{itemize}
96 \item Sortiernetzwerke sind toll, weil $\ldots$
97 \item Sortiernetzwerke sind einfach erklärt, aber trotzdem kompliziert.
98 \item Bisher noch kein evolutionärer Algorithmus zur automatischen
99   Optimierung von Sortiernetzwerken bekannt. \textit{(Glaube ich zumindest.)}
100 \end{itemize}
101
102 \subsection{Einleitung}\label{sect:einleitung}
103
104 \subsubsection{Sortiernetzwerke}\label{sect:einleitung_sortiernetzwerke}
105
106 {\em Komparatoren} sind die Bausteine, die {\em Sortiernetzwerken} zugrunde
107 liegen. Sie haben zwei Eingänge über die sie zwei Zahlen erhalten können.
108 Ausserdem besitzt ein {\em Komparator} zwei Ausgänge, die im Gegensatz zu den
109 Eingängen unterscheidbar sind: Die grö"sere der beiden Zahlen wird immer auf
110 dem einen, die kleinere der beiden Zahlen immer auf dem anderen Ausgang
111 ausgegeben.
112
113 Wenn man nun mehrere {\em Komparatoren} miteinander kombiniert, also die
114 Ausgänge von Komparatoren mit dem Eingängen anderer Komparatoren verbindet,
115 erhält man ein {\em Komparatornetzwerk}.
116
117 \begin{figure}
118 \begin{center}
119 \input{images/einfaches_komparatornetzwerk.tex}
120 \end{center}
121 \caption{Einfaches Komparatornetzwerk mit vier Ein- bzw. Ausgängen, bestehend
122 aus 5~Komparatoren.}
123 \label{fig:einfaches_komparatornetzwerk}
124 \end{figure}
125
126 Abbildung~\ref{fig:einfaches_komparatornetzwerk} zeigt ein einfaches
127 Komparatornetzwerk aus fünf Komparatoren in der üblichen Darstellungsweise:
128 Die horizontalen Linien stellen Leitungen von den Eingängen auf der linken
129 Seite zu den Ausgängen auf er rechten Seite dar. Die vertikalen Pfeile
130 symbolisieren die Komparatoren, die die Werte "`auf den Leitungen"'
131 vergleichen und ggf. vertauschen. Nach einem Komparator befindet sich die
132 kleinere Zahl immer auf der Leitung, auf die der Pfeil zeigt, die größere Zahl
133 befindet sich auf der Leitung auf der der Pfeil seinen Ursprung hat.
134
135 Komparatoren, die unterschiedliche Leitungen miteinander vergleichen, können
136 gleichzeitig angewandt werden. Das Beispiel in
137 Abbildung~\ref{fig:einfaches_komparatornetzwerk} verwendet diesen Umstand und
138 vergleicht in einem ersten Schritt die zwei oberen und die zwei unteren
139 Leitungen gleichzeitig. Eine Gruppe von Komparatoren, die gleichzeitig
140 angewendet werden können, nennt man eine \emph{Schicht} des
141 Komparatornetwerks. Die \emph{Verzögerung} eines Komparatornetzwerks ist
142 gleichbedeutend mit der Anzahl der Schichten, in die sich die Komparatoren
143 mindestens gruppieren lassen, da sie die Anzahl der benötigten parallelen
144 Schritte darstellt.
145
146 Komparatornetzwerke, die für jede beliebige Eingabepermutation eine
147 Ausgabe erzeugen, die der Sortierung der Eingabe entspricht, heißen 
148 {\em Sortiernetzwerke}. Das in
149 Abbildung~\ref{fig:einfaches_komparatornetzwerk} gezeigte Komparatornetzwerk
150 ist kein Sotiernetzwerk: Die Eingabefolge ${(1, 2, 3, 4)}$ würde zur Ausgabe
151 ${(2, 1, 3, 4)}$ führen -- die bestehenden Sortierung wird also sogar
152 zerstört.
153
154 Zu beweisen, dass ein gegebenes Komparatornetzwerk die Sortiereigenschaft
155 {\em nicht} hat, ist mit einem gegebenen Gegenbeispiel einfach möglich.
156 Dieses Gegenbeispiel zu finden ist allerdings aufwendig.
157
158 \todo{Wie findet man die Gegenbeispiele? Die {\em Entscheidung}, ob ein
159 Netzwerk sortiert, ist doch NP-vollständig, also müsste doch das Finden eines
160 Gegenbeispiels im Allgemeinen auch exponentialle Laufzeit haben..?}
161 \todo{Wenn die {\em Entscheidung}, ob ein Netzwerk sortiert, NP-vollständig
162 ist, müsse man dann nicht einen Zeugen für die Sortiereigenschaft angeben
163 können?}
164
165 \todo{$0-1$-Prinzip}
166
167 Um zu überprüfen, ob ein gegebenes Komparatornetzwerk die Sortiereigenschaft
168 besetzt, müssen nicht alle $n!$ Permutationen von $n$~unterschiedlichen Zahlen
169 ausprobieren. Stattdessen reicht es zu überprüfen, dass das Netzwerk alle
170 $2^n$~0-1-Folgen sortiert.
171
172 Sortiernetzwerke:
173 \begin{itemize}
174 \item Ein Komparator-Netzwerk ist $\ldots$
175 \item Ein Komparator-Netzwerk ist ein Sortiernetzwerk, wenn $\ldots$
176 \item Die Frage nach der Sortiereigenschaft ist NP-vollständig.
177 \end{itemize}
178
179 \subsubsection{Evolutionäre Algorithmen}
180
181 Viele {\em kombinatorische Optimierungsprobleme} sind schwer zu lösen -- die
182 entsprechenden Entscheidungsprobleme liegen oft in der Komplexitätsklasse
183 $NP$, sind also mit bekannten Verfahren nicht effizient exakt lösbar. Sollte
184 sich herausstellen, dass diese Probleme nicht in der Komplexitätsklasse $P$
185 liegen, wäre eine Konsequenz, dass es effiziente exakte Algorithmen für diese
186 Probleme nicht geben kann. Falls sich hingegen herausstellt, dass diese
187 Probleme in der Komplexitätsklasse~$P$ liegen, wird es mit großer
188 Wahrscheinlichkeit noch einige Zeit dauern bis auch Algorithmen mit
189 praktikablen Zeitkonstanten gefunden werden.
190
191 Aus diesem Grund besteht die Notwendigkeit einen Kompromiss einzugehen: Statt
192 die bzw. eine der {\em optimalen} Lösungen als einzige Ausgabe des Algorithmus
193 zuzulassen, wird eine "`möglichst gute"' Lösung ausgegeben. Viele dieser
194 Optimierungsalgorithmen orientieren sich an Vorgängen in der Natur,
195 beispielsweise immitieren die "`Ameisenalgorithmen"' das Verhalten von Ameisen
196 auf der Futtersuche um kurze Rundreisen auf Graphen zu berechnen.
197
198 Bei {\em Evolutionären Algorithmen} stand die Evolution pate. Die Grundidee
199 ist es, bestehende Lösungen zu neuen, unter Umständen besseren Lösungen zu
200 kombinieren. Dabei bedient man sich der in der Evolutionstheorie etablierten
201 Nomenklatur, beispielsweise werden konkrete Lösungen für ein Problem häufig
202 als {\em Individuum} bezeichnet.
203
204 Die Vorgehensweise lässt sich abstrakt wie folgt beschreiben. Aus einer
205 bestehenden Lösungsmenge, der {\em Population} werden zufällig Lösungen
206 ausgesucht {\em (Selektion)} und zu einer neuen Lösung kombiniert ({\em
207 Rekombination}). Unter Umständen wird die neue Lösung noch zufällig
208 verändert {\em (Mutation)}, bevor sie in die bestehende Lösungsmenge
209 integriert wird. Die Wahrscheinlichkeiten, beispielsweise bei der {\em
210 Selektion}, sind dabei nicht zwangsläufig gleichverteilt -- üblicherweise
211 werden bessere Lösungen bevorzugt. Zur Bewertung dient die sogenannte {\em
212 Gütefunktion}.
213
214 Nicht alle Probleme eignen sich für diese Strategie: Zum einen muss es möglich
215 sein, eine initiale Population zur Verfügung zu stellen, da diese als Basis
216 aller weiteren Operationen dient. Das ist häufig keine große Einschränkung, da
217 es oft einfach ist {\em irgendeine} Lösung anzugeben. Zum anderen muss eine
218 Methode für die Rekombination existieren. Das insbesondere dann problematisch
219 wenn {\em Nebenbedingungen} eingehalten werden müssen.
220
221 Beim Aussuchen von zufälligen Lösungen aus der Population, der
222 \emph{Selektion}, werden gute Lösungen bevorzugt. Wie sehr diese Lösungen
223 bevorzugt werden, hat einen starken Einfluss auf das Verhalten des
224 Algorithmus. Werden gute Lösungen stark bevorzugt, konvergiert der Algorithmus
225 schnell gegen ein (lokales) Optimum. Dieses \textit{Exploitation} (Englisch
226 für „Ausnutzung“) genannte Verhalten sorgt dafür, dass sich der Algorithmus
227 schnell auf eine Lösung festlegt und andere, möglicherweise bessere lokale
228 Optima nicht mehr findet. Werden gute Lösungen hingegen nur wenig bevorzugt,
229 erforscht der Algorithmus den Lösungsraum in viele Richtungen. Dieses
230 \textit{Exploration} (Englisch für „Erforschung“) genannte Verhalten sorgt
231 zwar dafür, dass der Algorithmus langsamer auf ein Optimum zusteuert, dafür
232 findet er aber in der Regel bessere Lösungen.
233
234 Die Parameter evolutionärer Algorithmen so einzustellen, dass sich ein guter
235 Mittelweg zwischen den beiden Extremen einstellt, ist eine Aufgabe, die sich
236 nur experimentell lösen lässt. Die genauen Parameter hängen nicht nur vom
237 eigentlichen Algorithmus, sondern auch vom konkreten Problem ab, so dass sich
238 beispielsweise bei der Optimierung von Sortiernetzwerken die Parameter
239 zwischen verschiedenen Leitungszahlen stark unterscheiden.
240
241 \begin{itemize}
242 \item Unter einem "`Evolutionären Algorithmus"' versteht man $\ldots$
243 \item Da die Sortiereigenschaft zu überprüfen NP-schwer ist, ist die
244 Mutation \textit{(vermutlich)} nicht (effizient) möglich.
245 \end{itemize}
246
247 \newpage
248 \section{Bekannte konstruktive Sortiernetzwerke}
249 \label{sect:konstruktive_netzwerke}
250
251 Übersicht über bekannte konstruktive Sortiernetzwerke.
252
253 \subsection{Das Odd-Even-Transpositionsort-Netzwerk}
254 \label{sect:odd_even_transpositionsort}
255
256 Das Sortiernetzwerk {\em Odd-Even-Transpositionsort} (OET) ist eines der
257 einfachsten Sortiernetzwerke. Es besteht aus $n$~{\em Schichten}, die jede
258 "`Leitung"' abwechselnd mit den benachbarten Leitungen verbindet.
259 Abbildung~\ref{fig:odd-even-transposition-08} zeigt das OET-Netzwerk für
260 ${n = 8}$ Leitungen.
261
262 \begin{figure}
263   \begin{center}
264     \input{images/oe-transposition-8.tex}
265   \end{center}
266   \caption{Das \emph{Odd-Even-Transpositionsort}-Netzwerk mit acht Eingängen.}
267   \label{fig:odd-even-transposition-08}
268 \end{figure}
269
270 Dass das Odd-Even-Transporitionsort-Netzwerk tatsächlich jede beliegibe
271 Eingabe sortiert ist nicht offensichtlich. Leicht zu sehen ist jedoch, dass
272 sowohl das Minimum als auch das Maximum durch das im Netzwerk enthaltene
273 Treppenmuster auf die unterste beziehungsweise oberste Leitung gelangt. Beim
274 Odd-Even-Transporitionsort-Netzwerk mit drei Eingängen,
275 $\operatorname{OET}(3)$, ist die Ausgabe folglich sortiert.
276
277 Die Sortiereigenschaft größerer OET-Netzwerke lässt sich rekursiv beweisen,
278 indem man $\operatorname{OET}(n)$ auf $\operatorname{OET}(n-1)$ durch
279 Herausschneiden einer Leitung reduziert. In
280 Abschnitt~\ref{sect:leitungen_entfernen} wird das Vorgehen im Detail
281 beschrieben, Abbildung~\ref{fig:oe-transposition-cut} zeigt das
282 Herausschneiden einer Leitung aus $\operatorname{OET}(8)$.
283
284 Das Odd-Even-Transporitionsort-Netzwerk ist weder in Bezug auf die Anzahl der
285 Komparatoren noch in Bezug auf die Anzahl der Schichten, in denen sich die
286 Komparatoren anordnen lassen, effizient. Es benötigt
287 ${\frac12 n (n-1)} = \mathcal{O}(n^2)$~Komparatoren, die in $n$~Schichten
288 angeordnet sind. Andere Sortiernetzwerke benötigen deutlich weniger
289 Komparatoren, beispielsweise $\mathcal{O}(n (\log n)^2)$, die in weniger
290 Schichten, zum Beispiel $\mathcal{O}(\log n)$, angeordnet sind.
291
292 Das Interessante am OET-Netzwerk ist seine einfache Konstruktion. Einige der
293 folgenden Algorithmen benötigen ein möglichst einfaches Sortiernetzwerk als
294 Starteingabe, auf dessen Basis sie versuchen optimierte Sortiernetzwerke zu
295 finden. Häufig dient $\operatorname{OET}(n)$ als Eingabe für diese
296 Algorithmen.
297
298 \subsection{Das bitone Mergesort-Netzwerk}
299
300 Das \emph{bitone Mergesort}-Netzwerk ($\operatorname{BS}(n)$) ist ein
301 Sortiernetzwerk, das 1968 von \emph{Kenneth~E. Batcher} in~\cite{B1968}
302 veröffentlicht wurde. Es ist deutlich effizienter als das
303 Odd-Even-Transposi\-tionsort-Netzwerk -- sowohl in Bezug auf die Anzahl der
304 Komparatoren als auch bezüglich der benötigten Zeit, also der Anzahl der
305 Schichten.
306
307 Das Sortiernetzwerk basiert auf einem Komparatornetzwerk, welches zwei
308 sortierte Listen zusammenfügen (englisch: \textit{to~merge}) kann. Dieser
309 \emph{„bitoner Mischer“} (englisch: \textit{bitonic merger}) genannte Baustein
310 verleiht dem Sortiernetzwerk seinen Namen.
311
312 Da das Sortiernetzwerk rekursiv definiert ist, betrachten wir hier nur die
313 Instanzen des Netzwerks, deren Leitungszahl $n = 2^t$ eine Zweierpotenz ist.
314 Es ist jedoch möglich das Sortiernetzwerk für beliebige~$n$ zu erzeugen.
315
316 \subsubsection{Der bitone Mischer}\label{sect:der_bitone_mischer}
317
318 Das \emph{bitone Mergesort-Netzwerk} basiert auf dem sogenannten \emph{bitonen
319 Mischer} $\operatorname{BM}(n)$, einem Kom\-parator-Netzwerk, das eine beliebige
320 \emph{bitone Folge} in eine sortierte Listen umordnen kann. Eine \emph{bitone
321 Folge} ist eine monoton steigende Folge gefolgt von einer monoton absteigenden
322 Folge, oder ein zyklischer Shift davon. Abbildung~\ref{fig:beispiel-biton}
323 zeigt die vier prinzipiellen Möglichkeiten die durch zyklische Shifts
324 entstehen können. Die wichtigsten Varianten für das \emph{bitone
325 Mergesort-Netzwerk} zeigen die Abbildungen~\ref{fig:beispiel-biton-0}
326 und~\ref{fig:beispiel-biton-1}. Sie erhält man, wenn man eine aufsteigend und
327 eine absteigend sortierte Liste aneinanderhängt. Bei den anderen beiden Formen
328 ist wichtig zu beachten, dass das letzte Element nicht größer
329 (Abbildung~\ref{fig:beispiel-biton-2}) bzw. kleiner
330 (Abbildung~\ref{fig:beispiel-biton-3}) als das erste Element der Folge sein
331 darf.
332
333 \begin{figure}
334   \centering
335   \subfigure[aufsteigend, absteigend]{\input{images/beispiel-biton-0.tex}\label{fig:beispiel-biton-0}}
336   \subfigure[absteigend, aufsteigend]{\input{images/beispiel-biton-1.tex}\label{fig:beispiel-biton-1}}
337   \subfigure[aufsteigend, absteigend, aufsteigend]{\input{images/beispiel-biton-2.tex}\label{fig:beispiel-biton-2}}
338   \subfigure[absteigend, aufsteigend, absteigend]{\input{images/beispiel-biton-3.tex}\label{fig:beispiel-biton-3}}
339   \caption{Beispiele bitoner Folgen.}
340   \label{fig:beispiel-biton}
341 \end{figure}
342
343 \begin{figure}
344   \centering
345   \subfigure[normal]{\input{images/bitonic-merge.tex}\label{fig:bitonic-merge-normal}}
346   \qquad
347   \subfigure[trichter]{\input{images/bitonic-merge-trichter.tex}\label{fig:bitonic-merge-tricheter}}
348   \caption{Schematischer Aufbau des bitonen Mischers: Jedes Element der
349   aufsteigenden Folge $u_0, u_1, \ldots$ wird mit dem entsprechenden Element
350   der absteigend sortierten Folge $v_0, v_1, \ldots$ verglichen. Die beiden
351   resultierenden Teilfolgen sind wiederum biton.}
352   \label{fig:bitonic-merge-schema}
353 \end{figure}
354
355 Der Mischer funktioniert folgendermaßen: Gegeben sind zwei Folgen mit je
356 ${m = \frac{n}{2}}$ Elementen, $U = \left(u_0, u_1, \ldots, u_{m-1}\right)$ und
357 $V = \left(v_0, v_1, \ldots, v_{m-1}\right)$. Die Folge $U$ sei aufsteigend
358 sortiert, die Folge $V$ sei absteigend sortiert:
359 \begin{eqnarray}
360  u_0 \leqq u_1 \leqq &\ldots& \leqq u_{m-1} \\
361  v_0 \geqq v_1 \geqq &\ldots& \geqq v_{m-1}
362 \end{eqnarray}
363 Im ersten Schritt werden nun jeweils die Elemente an den gleichen relativen
364 Positionen verglichen und ggf. vertauscht:
365 \begin{equation}
366 u_i \longleftrightarrow v_i, \quad 0 \leqq i < m
367 \end{equation}
368 Sei $j \in \{0 \ldots m\}$ der Index der ersten Elemente $u_j$ und $v_j$, die
369 durch den gemeinsamen Komparator vertauscht werden. Unter der Annahme, dass
370 Elemente nur vertauscht werden wenn, sie ungleich sind, muss ${u_j > v_j}$
371 gelten. Mit $u_j \leqq u_{j+1}$ und $v_j \geqq v_{j+1}$ folgt daraus $u_{j+1}
372 > v_{j+1}$. Es werden also alle Elemente $u_k$ und $v_k$ mit $k \geqq j$
373 vertauscht. $j = m$ bezeichnet den Fall, in dem das größte Element der
374 "`linken"' Folge, $u_{m-1}$, kleiner ist als das kleinste Element der
375 "`rechten"' Folge, $v_{m-1}$. Daraus folgt, dass das Resultat in zwei bitone
376 Folgen aufteilen lässt: Eine aufsteigende~/ absteigende Folge und eine
377 absteigende~/ aufsteigende Folge. Abbildung~\ref{fig:bitonic-merge-normal}
378 zeigt die Situationen vor und nach diesem Schritt des Mischers.
379
380 Um die Folge vollständig zu sortieren, müssen anschließend die beiden
381 resultierenden bitonen Folgen sortiert werden. Die geschieht ebenfalls
382 mithilfe des bitonen Mischers, mit zwei Instanzen von
383 $\operatorname{BM}(\frac{n}{2})$. Diese rekursive Definition endet mit dem
384 bitonen Mischer mit zwei Leitungen, $\operatorname{BM}(2)$, der als
385 Komparator-Netzwerk mit einem Komparator zwischen den beiden Leitungen
386 definiert ist.
387
388 Der bitonen Mischer kann auch zwei aufsteigende Folgen sortieren. Dazu ist
389 lediglich eine etwas modifizierte Vergleichs-Kaskade im ersten Schritt
390 notwendig. Die folgenden, kleineren Mischer erhalten als Eingabe wieder eine
391 „echte“ bitone Folge. Abbildung~\ref{fig:bitonic-merge-tricheter} zeigt das
392 Schema des bitonen Mischers für zwei aufsteigend sortierte Foglen. Durch das
393 Umdrehen einer Folge verändert sich das Muster der Komparatoren ein wenig:
394 Statt an eine Treppe erinnert das Muster nun an einen Trichter.
395
396 Da sich die Anzahl der Leitungen in jedem Rekursionsschritt halbiert, endet
397 die Rekursion nach $\log(n)$~Schritten. In jedem Rekursionsschritt werden
398 $\frac{n}{2}$~Komparatoren eingefügt, so dass der gesamte Mischer aus
399 $\frac{1}{2} n \log(n) = \mathcal{O}\left(n \log(n)\right)$~Komparatoren
400 besteht, die in $\log(n)$~Schichten angeordnet werden können.
401
402 \subsubsection{Das bitone Mergesort-Netzwerk}
403
404 Ebenso wie der bitone Mischer $\operatorname{BM}(n)$ ist auch das \emph{bitone
405 Mergesort-Netzwerk} $\operatorname{BS}(n)$ rekursiv definiert. Es setzt sich
406 zusammen aus zwei Instanzen des bitonen Mergesort-Netzwerks halber Größe,
407 $\operatorname{BS}(\frac{n}{2})$, für je die Hälfte der Eingänge, sowie dem
408 bitonen Mischer für $n$~Leitungen, $\operatorname{BM}(n)$. Das Rekursionsende
409 ist das bitone Mergesort-Netzwerk mit nur einer Leitung,
410 $\operatorname{BS}(1)$, welches als leeres Komparatornetzwerk definiert ist. 
411 Entsprechend sind die Komparatornetzwerke $\operatorname{BM}(2)$ und
412 $\operatorname{BS}(2)$ identisch.
413
414 Bei der Konstruktion kommt die trichterförmige Anordnung der Komparatoren
415 (Abbildung~\ref{fig:bitonic-merge-tricheter}) gelegen, weil so die beiden
416 rekursiven Sortiernetzwerke in die gleiche Richtung sortieren können und so
417 alle Komparatoren in die gleiche Richtung zeigen.
418
419 \begin{figure}
420   \begin{center}
421   \input{images/batcher-8.tex}
422   \end{center}
423   \caption{$\operatorname{BS}(8)$, Batchers {\em bitones Mergesort-Netzwerk}
424   für acht Eingänge. Markiert sind die beiden Instanzen von
425   $\operatorname{BS}(4)$ (rot), die beiden bitonen
426   Mischer~$\operatorname{BM}(4)$ (blau) und die Komparatoren, die im letzten
427   rekursiven Schritt hinzugefügt wurden (grün).}
428   \label{fig:bitonic-08}
429 \end{figure}
430
431 Das konkrete Netzwerk~$\operatorname{BS}(8)$ ist in
432 Abbildung~\ref{fig:bitonic-08} zu sehen. Eingezeichnet sind ebenfalls die
433 beiden Instanzen des Netzwerks~$\operatorname{BS}(4)$ (rot) sowie der bitone
434 Mischer~$\operatorname{BM}(8)$ (blau). Die trichterförmige Komparator-Kaskade,
435 die die bitone Eingabefolge in zwei bitone Ausgabefolgen transformiert, ist
436 grün hinterlegt.
437
438 Das \emph{bitone Mergesort-Netzwerk} $\operatorname{BS}(8)$ besteht aus
439 $\frac{1}{4} n \log(n) \log(n+1) = \mathcal{O}\left(n (log (n))^2\right)$
440 Komparatoren, die in $\frac{1}{2} \log(n) \log(n+1) = \mathcal{O}(\log(n))$
441 Schichten angeordnet sind.
442
443 %\begin{figure}
444 %\begin{center}
445 %\includegraphics[viewport=115 491 372 782,width=7.5cm]{images/sn-rekursiver-aufbau.pdf}
446 %\end{center}
447 %\caption{Rekursiver Aufbau von $S(n)$: Es besteht aus zwei Instanzen von
448 %$S(n/2)$ und dem Mischer $M(n)$.}
449 %\label{fig:bms_rekursiver_aufbau}
450 %\end{figure}
451
452 \subsection{Das Odd-Even-Mergesort-Netzwerk}
453
454 Obwohl der Name ähnlich klingt, haben das \emph{Odd-Even-Mergesort-Netzwerk}
455 (OES) und das \emph{Odd-Even-Transpositionsort-Netzwerk} (siehe
456 Abschnitt~\ref{sect:odd_even_transpositionsort}) wenig gemein. Vielmehr ist
457 OES dem \emph{bitonen Mergesort-Netzwerk}, das im vorherigen Abschnitt
458 vorgestellt wurde, ähnlich: Auch dieses Sortiernetzwerk ist von
459 \textit{Kenneth~E. Batcher} gefunden worden und ist ebenfalls in~\cite{B1968}
460 beschrieben und initial analysiert worden. Eine weitere Gemeinsamkeit besteht
461 darin, dass es ebenfalls rekursiv durch einen Mischer definiert ist.
462
463 \subsubsection{Der Odd-Even-Mischer}\label{sect:der_odd_even_mischer}
464
465 Der \emph{Odd-Even-Mischer} $\operatorname{OEM}(n,m)$ ist ein
466 Komperatornetzwerk, dass zwei sortierte Folgen mit $n$ beziehungsweise $m$
467 Elementen zu einer sortierten Ausgabefolge mit $N = n+m$~Elementen
468 zusammenfügen kann. Dabei kommt es mit weniger Vergleichen aus als der
469 \emph{bitone Mischer}, der im Abschnitt~\ref{sect:der_bitone_mischer}
470 vorgestellt wurde. Allerdings benötigt der \emph{Odd-Even-Mischer} unter
471 Umständen mehr Schichten als der \emph{bitone Mischer}.~\cite{KNUTH}
472
473 Der \emph{Odd-Even-Mischer} selbst ist ebenfalls rekursiv aufgebaut: Die
474 Eingabe für den Mischer mit $N = n + m$ Leitungen besteht aus den beiden
475 sortierten Folgen $U = \left(u_0, u_1, \ldots, u_{n-1}\right)$ und
476 $V = \left(v_0, v_1, \ldots, v_{m-1}\right)$. Die gesamte Eingabe sei
477 $W = \left(w_0, w_1, \ldots, w_{N-1}\right)$ mit:
478 \begin{equation}
479 w_i = \left\{ \begin{array}{ll}
480         u_i,     & i < n \\
481         v_{i-n}, & i \geqq n
482       \end{array} \right.,
483       \quad 0 \leqq i < N
484 \end{equation}
485
486 \begin{figure}
487   \begin{center}
488   \input{images/oe-merge.tex}
489   \end{center}
490   \caption{Schematischer Aufbau des {\em Odd-Even} Mischers. Im Vergleich zum
491   bitonen Mischer für Acht kommt dieses Schema mit einem Komparator weniger
492   aus. Der Effekt wird duch den rekursiven Aufbau noch verstärkt.}
493   \label{fig:oe-merge}
494 \end{figure}
495
496 Diese werden in insgesamt vier sortierte Folgen aufgeteilt, je eine Liste der
497 geraden Indizes und je eine Liste der ungeraden Indizes.
498 \begin{eqnarray}
499   U_{\textrm{gerade}}   &=& \left(u_0, u_2, u_4, \ldots\right) \\
500   U_{\textrm{ungerade}} &=& \left(u_1, u_3, u_5, \ldots\right) \\
501   V_{\textrm{gerade}}   &=& \left(v_0, v_2, u_4, \ldots\right) \\
502   V_{\textrm{ungerade}} &=& \left(v_1, v_3, u_5, \ldots\right)
503 \end{eqnarray}
504
505 Die geraden Folgen $U_{\textrm{gerade}}$ und $V_{\textrm{gerade}}$ bzw. die
506 ungeraden Folgen $U_{\textrm{ungerade}}$ und $V_{\textrm{ungerade}}$ werden
507 rekursiv von kleineren {\em Odd-Even-Mischern} zusammengefügt, so dass sich am
508 Ausgang der Mischer die Folgen
509 \begin{eqnarray}
510   W_{\textrm{gerade}}   &=& \left(w_0, w_2, w_4, \ldots\right) \\
511   W_{\textrm{ungerade}} &=& \left(w_1, w_3, w_5, \ldots\right)
512 \end{eqnarray}
513 ergeben.
514
515 Anschließend werden die Komparatoren zwischen benachbarten Leitungen
516 hinzugefügt,
517 \begin{equation}
518   w_{2i-1} \longleftrightarrow w_{2i}, \quad 1 \leqq i < \frac{N}{2}
519 \end{equation}
520 die die Folge~$W$ sortieren. Den schematischen Aufbau des {\em
521 Odd-Even-Mischers} zeigt Abbildung~\ref{fig:oe-merge}.
522
523 Leider bricht die Rekursion nicht so schön ab, wie das beim {\em bitonen
524 Mischer} der Fall gewesen ist. Insbesondere für ${n = m = 1}$ würde --
525 entsprechend der Konstruktionsvorschrift -- ein leeres Netzwerk entstehen, was
526 offensichtlich nicht korrekt wäre. Die Abbruchbedingungen für den rekursiven
527 Aufbau lauten:
528 \begin{itemize}
529   \item Falls ${n = 0}$ oder ${m = 0}$: Das Netzwerk ist leer.
530   \item Falls ${n = 1}$ und ${m = 1}$: Das Netzwerk besteht aus einem
531   einzelnen Komparator.
532 \end{itemize}
533
534 Dass die resultierende Folge sortiert ist, lässt sich mit dem
535 {\em 0-1-Prinzip} zeigen:
536 Da $U$ und $V$ sortiert sind, ist die Anzahl der Nullen in den geraden
537 Teilfolgen, $U_{\textrm{gerade}}$ bzw. $V_{\textrm{gerade}}$, größer oder
538 gleich der Anzahl der Nullen in den ungeraden Teilfolgen
539 $U_{\textrm{ungerade}}$ bzw. $V_{\textrm{ungerade}}$ --~die Einsen verhalten
540 sich entsprechend umgekehrt. Das trifft demnach auch auf die Folgen
541 $W_{\textrm{gerade}}$ und $W_{\textrm{ungerade}}$ entsprechend zu:
542 \begin{eqnarray}
543   \left|W_{\textrm{gerade}}\right|_0
544   &=& \left|U_{\textrm{gerade}}\right|_0
545     + \left|V_{\textrm{gerade}}\right|_0
546    =  \left\lceil \frac{1}{2} \left|U\right|_0 \right\rceil
547    +  \left\lceil \frac{1}{2} \left|V\right|_0 \right\rceil \\
548   \left|W_{\textrm{ungerade}}\right|_0
549   &=& \left|U_{\textrm{ungerade}}\right|_0
550     + \left|V_{\textrm{ungerade}}\right|_0
551    =  \left\lfloor \frac{1}{2} \left|U\right|_0 \right\rfloor
552    +  \left\lfloor \frac{1}{2} \left|V\right|_0 \right\rfloor
553 \end{eqnarray}
554 Daraus folgt, dass $W_{\textrm{gerade}}$ $0$, $1$ oder $2$ Nullen mehr enthält
555 als $W_{\textrm{ungerade}}$. In den ersten beiden Fällen ist die "`verzahnte"'
556 Ausgabe der beiden kleineren Mischer bereits sortiert. Nur im letzten Fall,
557 wenn $W_{\textrm{gerade}}$ zwei Nullen mehr enthählt als
558 $W_{\textrm{ungerade}}$, muss genau eine Vertauschung stattfinden, um die
559 Ausgabe zu sortieren. Diese wird von den Komparatoren, die benachbarte
560 Leitungen miteinander vergleichen, ausgeführt. Die jeweiligen Situationen sind
561 in Abbildung~\ref{fig:oe-post-recursive} dargestellt.
562
563 \begin{figure}
564   \centering
565   \subfigure[$\left|W_{\textrm{gerade}}\right|_0 - \left|W_{\textrm{ungerade}}\right|_0 = 0$]{\input{images/oe-post-recursive-diff0.tex}}
566   \qquad
567   \subfigure[$\left|W_{\textrm{gerade}}\right|_0 - \left|W_{\textrm{ungerade}}\right|_0 = 1$]{\input{images/oe-post-recursive-diff1.tex}}
568   \qquad
569   \subfigure[$\left|W_{\textrm{gerade}}\right|_0 - \left|W_{\textrm{ungerade}}\right|_0 = 2$]{\input{images/oe-post-recursive-diff2.tex}}
570   \caption{Die drei Situationen, die nach dem Verzahnen der Ausgaben der
571   kleineren {\em Odd-Even-Mischer} entstehen können. Ist die Differenz der
572   Anzahl der Nullen gleich $0$ oder $1$, ist die Folge bereits sortiert. Im
573   letzten Fall stellt einer der Komparatoren sicher, dass das Ergebnis
574   sortiert ist.}
575   \label{fig:oe-post-recursive}
576 \end{figure}
577
578 Da die Teilfolgen $U$ und $V$ in jedem Rekursionsschritt etwa halbiert werden,
579 bricht die Rekursion nach $\mathcal{O}\left(\log (n) + \log (m)\right)$
580 Schritten ab. Die exakte Anzahl der benötigten Rekursionsschritte (und damit
581 Schichten im Mischer-Netzwerk), hängt von der Längeren der beiden
582 Eingabefolgen ab und beträgt $1 + \lceil \log\left(\max(n, m)\right) \rceil$.
583
584 Die Anzahl der Komparatoren $K(n,m)$, die $\operatorname{OEM}(n,m)$ im
585 allgemeinen Fall verwendet, ist Gemäß der rekursiven Definition in
586 Abhängigkeit der Länge der Eingabefolgen, $n$ und $m$:
587 \begin{displaymath}
588   K(n,m) = \left\{ \begin{array}{ll}
589     nm, & \mathrm{falls} \quad nm \leqq 1 \\
590     K\left(\left\lceil \frac{n}{2} \right\rceil, \left\lceil \frac{m}{2} \right\rceil\right)
591     + K\left(\left\lfloor \frac{n}{2} \right\rfloor, \left\lfloor \frac{m}{2} \right\rfloor\right)
592     + \left\lfloor \frac{1}{2} (m + n - 1) \right\rfloor & \mathrm{falls} \quad nm > 1
593   \end{array} \right.
594 \end{displaymath}
595 Leider ist es schwierig, diese allgemeine Formel in einer geschlossenen Form
596 anzugeben. Aus der Anzahl der Rekursionsschritte ist jedoch leicht erkennbar,
597 dass $K(n,m)$ in $\mathcal{O}(N \log (N))$ enthalten ist.
598
599 Für den wichtigen Spezialfall, dass $n = m = 2^{t-1}$, lässt sich die Anzahl
600 der Komparatoren im Vergleich zum \emph{bitonen Mischer} angeben: Der erste
601 Rekursionsschritt der OEM-Konstruktion fügt
602 $\left\lfloor \frac{1}{2} (m + n - 1) \right\rfloor = \frac{N}{2} - 1$
603 Komparatoren ein -- einen Komparator weniger als der \emph{bitone Mischer} in
604 diesem Schritt. Das selbe gilt für die rekursiv verwendeten kleineren Mischer,
605 $\operatorname{OEM}(\frac{n}{2}, \frac{n}{2})$ und so weiter bis
606 einschließlich $\operatorname{OEM}(2, 2)$, von denen es $2, 4, \dots,
607 \frac{N}{4} = 2^{\log(N)-2}$ Instanzen gibt. Insgesamt werden
608 \begin{displaymath}
609   \sum_{i=0}^{\log(N)-2} 2^i = 2^{\log(N) - 1} - 1 = \frac{N}{2} - 1 = n - 1
610 \end{displaymath}
611 Komparatoren eingespart. Damit ergibt sich
612 \begin{displaymath}
613   K\left(n = 2^{t-1}, n = 2^{t-1}\right) = \frac{1}{2} N \log(N) - \frac{N}{2} + 1
614 \end{displaymath}
615 für die Anzahl der Komparatoren, die von $\operatorname{OEM}(N = 2^t)$
616 benötigt werden.
617
618 \subsubsection{Das Odd-Even-Mergesort-Netzwerk}
619
620 Das \emph{Odd-Even-Mergesort-Netzwerk} $\operatorname{OES}(n)$ besteht --~wie
621 das \emph{bitone Mergesort-Netzwerk}~-- rekursiv aus kleineren Varianten von
622 sich selbst und einem abschließenden \emph{Odd-Even-Mischer}. Die
623 effizientesten Sortiernetzwerke in Bezuf auf Komparator- und Schichtzahl
624 entstehen, wenn die Anzahl der Leitungen jeweils halbiert wird. Somit besteht
625 $\operatorname{OES}(n)$ aus
626 $\operatorname{OES}\left(\left\lceil\frac{n}{2}\right\rceil\right)$,
627 $\operatorname{OES}\left(\left\lfloor\frac{n}{2}\right\rfloor\right)$
628 und $\operatorname{OEM}\left(\left\lceil\frac{n}{2}\right\rceil,
629 \left\lfloor\frac{n}{2}\right\rfloor\right)$. Die Rekursion endet mit
630 $\operatorname{OES}(1)$ und $\operatorname{OES}(0)$, die als leere
631 Komparatornetzwerke definiert sind.
632
633 \begin{figure}
634   \begin{center}
635   \input{images/oe-mergesort-8.tex}
636   \end{center}
637   \caption{Das {\em Odd-Even-Mergesort-Netzwerk} für acht Eingänge. Markiert
638   sind die Instanzen von $\operatorname{OES}(4)$ (rot), die beiden
639   \emph{Odd-Even-Mischer} $\operatorname{OEM}(4)$ für gerade und ungerade
640   Leitungen (blau) und die im ersten Rekursionsschritt hinzugefügten
641   Komparatoren zwischen benachbarten Leitungen (grün).}
642   \label{fig:odd-even-mergesort-08}
643 \end{figure}
644
645 In Abbildung~\ref{fig:odd-even-mergesort-08} ist das konkrete Sortiernetzwerk
646 $\operatorname{OES}(8)$ zu sehen. Rot markiert sind die beiden rekursiven
647 Instanzen $\operatorname{OES}(4)$. Die blauen und der grüne Block stellen den
648 \emph{Odd-Even-Mischer} für acht Leitungen dar: Die beiden blauen Blöcke sind
649 die rekursiven Instanzen von $\operatorname{OEM}(4)$, der grüne Block markiert
650 die Komparatoren, die in ersten Rekursionsschritt hinzugefügt werden.
651
652 Im Allgemeinen ist die Anzahl der Komparatoren, die vom
653 \emph{Odd-Even-Mergesort-Netzwerk} verwendet wird, $k(n)$, direkt aus der
654 Definition beziehungsweise der Konstruktionsanleitung abzulesen:
655 \begin{displaymath}
656   k(n) = k\left(\left\lceil\frac{n}{2}\right\rceil\right)
657        + k\left(\left\lfloor\frac{n}{2}\right\rfloor\right)
658        + K\left(\left\lceil\frac{n}{2}\right\rceil, \left\lfloor\frac{n}{2}\right\rfloor\right)
659 \end{displaymath}
660 Eine geschlossene Form dieser Formel ist schon alleine deshalb schwierig, weil
661 sie für $K(n,m)$ schwierig anzugeben ist. Es ist allerdings bekannt, dass
662 $k(n)$ in $\mathcal{O}\left(n \left(\log (n)\right)^2\right)$ enthalten ist.
663
664 Für den wichtigen Spezialfall, dass $n = 2^t$ eine Zweierpotenz ist, kann die
665 Anzahl der Komparatoren wieder explizit angegeben werden. \textit{Kenneth
666 Batcher} zeigt in~\cite{B1968}, dass in diesem Fall
667 \begin{displaymath}
668   k(n = 2^t) = \frac{1}{4} n \left(\log (n)\right)^2 - \frac{1}{4}n\log(n) + n - 1
669 \end{displaymath}
670 gilt.
671
672 % gnuplot:
673 % oem(n,m) = ((n*m) <= 1) ? (n*m) : oem(ceil(.5*n), ceil(.5*m)) + oem(floor(.5*n), floor(.5*m)) + floor(.5*(n+m-1.0))
674 % oem1(n) = oem(ceil(.5*n),floor(.5*n))
675 % oes(n) = (n <= 1.0) ? 0 : oes(ceil(0.5*n)) + oes(floor(0.5*n)) + oem1(n)
676
677 %\begin{itemize}
678 %\item Pairwise sorting-network
679 %\end{itemize}
680
681 \newpage
682 \section{Transformation von Sortiernetzwerken}
683
684 \subsection{Komprimieren}
685
686 \todo{Aus theoretischer Sicht eigentlich eine Trivialität. Rausschmeißen?}
687
688 Komparatoren, die unterschiedliche Leitungen miteinander vergleichen, können
689 gleichzeitig ausgewertet werden, wie bereits in
690 Abschnitt~\ref{sect:einleitung_sortiernetzwerke} beschrieben. Unter
691 \emph{Komprimieren} wird eine (Neu-)Gruppierung in die kleinstmögliche Anzahl
692 von \emph{Schichten} verstanden.
693
694 Diese Anzahl ist insbesondere beim automatisierten Bewerten von
695 Komparatornetzwerken interessant. \dots
696
697 \subsection{Normalisieren}
698
699 \begin{figure}
700   \centering
701   \subfigure[$S(8)$ (nach Konstruktion)]{\input{images/batcher-8-nonstd.tex}\label{fig:bitonic-nonstd}}
702   \subfigure[$S(8)$ (normalisiert)]{\input{images/batcher-8-std.tex}\label{fig:bitonic-std}}
703   \caption{Jedes Sortiernetzwerk kann in ein Standard-Sortiernetzwerk
704   transformiert werden. Gezeigt ist das bitone Sortiernetzwerk nach der
705   intuitiven Konstruktion und die normalisierte Variante.}
706   \label{fig:beispiel_normalisieren}
707 \end{figure}
708
709 Ein \emph{Standard-Sortiernetzwerk} oder \emph{normalisiertes Sortiernetzwerk}
710 ist ein Sortiernetzwerk, dessen Komparatoren alle in die selbe Richtung
711 zeigen. Jedes Sortiernetzwerk kann in eine normaliesierte Variante
712 transformiert werden. Dazu gibt beispielsweise \emph{Knuth} (\todo{Verweis})
713 einen Algorithmus an.
714
715 Abbildung~\ref{fig:beispiel_normalisieren} zeigt das das
716 bitone Sortiernetzwerk in zwei Varianten. Abbildung~\ref{fig:bitonic-nonstd}
717 zeigt das Netzwerk nach der Konstruktionsvorschrift, siehe auch
718 Abbildung~\ref{fig:bitonic-merge-normal}: In den ersten drei Schichten werden
719 die unter und die obere Hälfte gegenläufig sortiert. Das heißt dass nach drei
720 Schritten die eine Hälfte auf- und die andere Hälfte absteigend sortiert ist. 
721 In den Schichten~4 bis~6 folgt der bitone Mischer entsprechend der rekursiven
722 Definition.
723
724 In Abbildung~\ref{fig:bitonic-std} ist die normalisierte Version des bitonen
725 Mergesort-Netzwerks zu sehen. Alle Komparatoren zeigen hier in die gleiche
726 Richtung. Statt dem typischen "`Treppenmuster"' sind abwechselnd das Treppen-
727 und das Trichtermuster zu sehen.
728
729 \subsection{Zwei Netzwerke kombinieren}
730
731 Um Sortiernetzwerke als \emph{Individuen} evolutionärer Algorithmen verwenden
732 zu können, muss es möglich sein, zwei Sortiernetzwerke zu einem neuen
733 Sortiernetzwerk zusammenzufassen.
734
735 Wir haben diese Technik in den vorangegangen Abschnitten bereits verwendet,
736 beispielsweise um zwei \emph{bitone Mergesort-Netzwerke} mit jeweils der
737 halben Leitungszahl, $\operatorname{BS}\left(\frac{n}{2}\right)$, zu einem
738 einzigen Sortiernetzwerk $\operatorname{BS}(n)$ zu kombinieren. Auch das
739 \emph{Odd-Even-Mergesort-Netzwerk} $\operatorname{OES}(n)$ wurde auf diese Art
740 und Weise rekursiv aufgebaut.
741
742 Die vorgestellten \emph{Mischer} erwarten als Eingabe zwei bereits sortierte
743 Folgen. \emph{Wie} diese Folgen sortiert wurden, ist unerheblich. Entsprechend
744 können wir beliebige Sortiernetzwerke einsetzen, um die beiden Eingabefolgen
745 zu sortieren, und die Ausgaben mit einem der beschriebenen Mischer
746 zusammenfügen.
747
748 Beispielsweise kann man die Ausgabe von zwei \emph{bitonen
749 Mergesort-Netzwerken} $\operatorname{BS}(8)$ mit je acht Leitungen mit dem
750 \emph{Odd-Even-Merge} $\operatorname{OEM(8,8)}$ zu einer sortierten
751 Gesamtfolge zusammenfügen. Das resultierende Sortiernetzwerk besitzt
752 73~Komparatoren (zum Vergleich: $\operatorname{BS}(16)$ benötigt
753 80~Komparatoren, $\operatorname{OES}(16)$ nur 63).
754
755 Verbesserungen in der Anzahl der benötigten Komparatoren beziehungsweise der
756 Schichten eines „kleinen“ Sortiernetzwerks übertragen sich direkt auf das
757 resultierende Gesamtnetzwerk. Das \emph{Odd-Even-Mergesort-Netzwerk}
758 $\operatorname{OES}(9)$ benötigt beispielsweise 26~Komparatoren, die in in
759 neun Schichten angeordnet sind. Es sind allerdings Sortiernetzwerke mit neun
760 Eingängen bekannt, die lediglich 25~Komparatoren in sieben Schichten
761 benötigen. Kombiniert man zwei dieser Netzwerke mit dem
762 \emph{Odd-Even-Mischer} erhält man ein Sortiernetzwerk mit 18~Eingängen, das
763 80~Komparatoren in 11~Schichten benötigt -- $\operatorname{OES}(18)$ benötigt
764 82~Komparatoren in 13~Schichten. Damit ist das resultierende Netzwerk so
765 schnell wie das Sortiernetzwerk mit 18~Eingängen, das \textit{Sherenaz~W.
766 Al-Haj Baddar} und \textit{Kenneth~E. Batcher} in ihrer Arbeit „An 11-Step
767 Sorting Network for 18~Elements“~\cite{BB2009} vorstellen, benötigt aber
768 6~Komparatoren weniger.
769
770 % 9   9
771 % 9  18
772 % 9  27
773 % 9  36
774 % 9  45
775 % 8  53
776 % 8  61
777 % 7  68
778 % 7  75
779 % 6  81
780 % 5  86
781
782 Das Zusammenfassen von zwei Sortiernetzwerken durch Hintereinanderausführung
783 ist nicht sinnvoll: Da die Ausgabe des ersten Sortiernetzwerks bereits
784 sortiert ist, ist das zweite Sortiernetzwerk überflüssig. Eine
785 Aneinanderreihung der Art „die ersten $x$~Schichten des einen, dann die
786 letzten $y$~Schichten des anderen Sortiernetzwerks“ zerstören im Allgemeinen
787 die Sortiereigenschaft. Die Sortiereigenschaft des resultierenden
788 Komparatornetzwerks müsste überprüft werden, was nach heutigem Wissensstand
789 nur mit exponentiellem Aufwand möglich ist.
790
791 %\begin{itemize}
792 %\item Mit dem Bitonic-Merge
793 %\item Mit dem Odd-Even-Merge
794 %\item Nach dem Pairwise sorting-network Schema.
795 %\end{itemize}
796
797 \subsection{Leitungen entfernen}\label{sect:leitungen_entfernen}
798
799 Im vorherigen Abschnitt haben wir gesehen, dass es mithilfe von
800 \emph{Mischern} möglich ist, aus zwei Sortiernetzwerken mit je $n$~Eingängen
801 ein neues Sortiernetzwerk mit $2n$~Eingängen zu erzeugen. Für einen
802 beabsichtigen \emph{evolutionären Algorithmus} ist es jedoch notwendig, dass
803 sich die Anzahl der Eingänge nicht verändert. Das heißt, dass wir wieder ein
804 Sortiernetzwerk mit $n$~Eingängen erhalten müssen.
805
806 Man kann ein gegebenes Sortiernetzwerk mit $n$~Eingängen auf ein
807 Sortiernetzwerk mit ${n-1}$~Leitungen verkleinern, indem man eine Leitung
808 „eliminiert“. Dazu nehmen wir an, dass das Minimum oder das Maximum an einem
809 bestimmten Eingang anliegt. Der Weg, den das Minimum beziehungsweise das Maxim
810 durch das Sortiernetzwerk nimmt, ist eindeutig bestimmt und endet an einem der
811 „Ränder“, also auf der Leitung mit dem höchsten oder dem niedrigsten Index.
812 Insbesondere ist bekannt, welche Komparatoren „berührt“ werden und welche
813 dafür sorgen, dass der Wert die Leitung gewechselt, da das Minimum jeden
814 Vergleich „verliert“ und das Maximum jeden Vergleich „gewinnt“. Die
815 Abbildung~\ref{fig:oe-transposition-cut0} zeigt den Weg eines Maximums durch
816 das {\em Odd-Even-Transpositionsort-Netzwerk}.
817
818 \begin{figure}
819   \centering
820   \subfigure[foo]{\input{images/oe-transposition-cut0.tex}\label{fig:oe-transposition-cut0}}
821   \subfigure[bar]{\input{images/oe-transposition-cut1.tex}\label{fig:oe-transposition-cut1}}
822   \subfigure[baz]{\input{images/oe-transposition-cut2.tex}\label{fig:oe-transposition-cut2}}
823   \subfigure[qux]{\input{images/oe-transposition-cut3.tex}\label{fig:oe-transposition-cut3}}
824   \caption{Eine Leitung wird aus dem
825   \emph{Odd-Even-Transpositionsort}-Netzwerk $\operatorname{OET}(8)$ entfernt:
826   Auf der rot markierten Leitung wird $\infty$ angelegt. Da der Wert bei jedem
827   Komparator am unteren Ende herauskommt, ist der Pfad fest vorgegeben. Da die
828   restlichen Werte trotzdem noch richtig sortiert werden müssen, kann dieser
829   Pfad herausgetrennt werden. In der letzten Abbildung ist
830   $\operatorname{OET}(7)$ markiert.}
831   \label{fig:oe-transposition-cut}
832 \end{figure}
833
834 Im nächsten Schritt werden alle beteiligten Komparatoren gelöscht bzw.
835 ersetzt: Komparatoren, die {\em nicht} zu einem Wechsel der Leitung geführt
836 haben, werden ersatzlos gelöscht. Diese Komparatoren sind in
837 Abbildung~\ref{fig:oe-transposition-cut0} grün markiert. Die Komparatoren, die
838 zum Wechsel der Leitung geführt haben, werden durch sich kreuzende Leitungen
839 ersetzt. Das Resultat ist eine Leitung, auf der das Minimum beziehungsweise
840 das Maximum angenommen wird, die an unterster oder oberster Stelle endet und
841 auf die keine Komparatoren mehr berührt
842 (Abbildung~\ref{fig:oe-transposition-cut1}).
843
844 Die Werte auf den verbleibenden $(n-1)$~Leitungen müssen vom restlichen
845 Komparatornetzwerk immernoch sortiert werden: Wir haben lediglich die Position
846 des Minimums oder des Maximums angenommen. Ein Sortiernetzwerk muss die
847 Eingabe sortieren, egal auf welcher Leitung das Minimum~/ das Maximum liegt.
848 Wir haben lediglich angefangen, das Sortiernetzwerk unter diese Annahme
849 auszuwerten -- über die verbleibenden Eingänge haben wir keine Aussage
850 getroffen. Entsprechend müssen die verbleibenden Ausgänge eine sortierte Liste
851 mit $(n-1)$~Elementen darstellen.
852
853 Wenn wir die Minimum- beziehungsweise Maximum-Leitung entfernen
854 (Abbildung~\ref{fig:oe-transposition-cut2}), bleibt das Sortiernetzwerk für
855 $(n-1)$~Leitungen übrig. Je nachdem, ob auf einer Leitung ein Minimum oder ein
856 Maximum angenommen wird, bezeichnen wir das eliminieren einer Leitung als
857 \emph{Minimum-Schnitt} beziehungsweise \emph{Maximum-Schnitt}.
858
859 Die letzte Abbildung, \ref{fig:oe-transposition-cut3}, zeigt das
860 Sortiernetzwerk wieder mit den üblichen geraden Leitungen und die rot
861 markierten Komparatoren wurden verschoben, so dass sich eine kompaktere
862 Darstellung ergibt. Ausserdem ist das
863 {\em Odd-Even-Transpositionsort-Netzwerk} für sieben Werte markiert. Der
864 zusätzliche Komparator vor dem $\textrm{OET}(7)$ hat keinen Einfluss auf die
865 Ausgabe und kann entfernt werden.
866
867 \subsubsection{Anzahl möglicher und unterschiedlicher Schnittmuster}
868 \label{sect:anzahl_schnittmuster}
869
870 Der Eliminierungsschritt kann iterativ angewandt werden, um aus einem
871 Sortiernetzwerk mit $n$~Ein\-gängen Sortiernetzwerke mit $n-1$, $n-2$,
872 $n-3$,~\dots Eingängen zu erzeugen. Insbesondere können auf diese Art und
873 Weise einen Sortiernetzwerke mit $2n$~Eingängen wieder auf Sortiernetzwerke
874 mit $n$~Eingängen reduziert werden. Mehrere Minimum- und Maximum-Schnitte, die
875 gleichzeitig angewendet werden, bezeichnen wir als \emph{Schnittmuster}.
876
877 Zwei Schnittmuster heißen \emph{äquivalent} bezüglich~$S$, wenn ihre Anwendung
878 auf das Sortiernetzwerk~$S$ das selbe Ergebnis liefert. Ansonsten heißen die
879 Schnittmuster \emph{unterschiedlich} bezüglich~$S$. 
880
881 Bei einem Sortiernetzwerk mit $n$~Eingängen gibt es $2n$~Möglichkeiten eine
882 Leitung zu entfernen: Auf jeder der $n$~Leitungen kann sowohl das Minimum als
883 auch das Maximum angenommen werden. Wendet man das Verfahren iterativ an, um
884 ein $n$-Sortiernetzwerk auf ein $m$-Sortiernetzwerk zu reduzieren, ergeben
885 sich insgesamt
886 \begin{equation}\label{eqn:anzahl_schnittmuster}
887   \prod_{i=n}^{m+1} 2i = 2^{n-m} \frac{n!}{m!}
888   \quad (n > m)
889 \end{equation}
890 \emph{mögliche} Schnittmuster. Diese Schnittmuster sind nicht alle
891 unterschiedlich. Legt man beispielsweise das Minimum auf die unterste Leitung
892 und das Maximum auf die oberste Leitung eines Standard-Sortiernetzwerks,
893 führen beide Reihenfolgen zum selben Ergebnis.
894
895 \textit{Moritz Mühlenthaler} zeigt in seiner Arbeit (\todo{Referenz}), dass
896 es möglich ist, mehrere Eingänge gleichzeitig mit Minimum beziehungsweise
897 Maximum vorzubelegen. Dadurch wird die Anzahl der möglichen Schnittmuster
898 reduziert, die Menge der so erzeugbaren Sortiernetzwerke bleibt aber
899 unverändert. Die Anzahl der möglichen Schnittmuster setzt sich zusammen aus
900 der Anzahl von Möglichkeiten, $n-m$~Leitungen aus $n$ Leitungen auszuwählen,
901 und die möglichen Minimum-~/ Maximum-Muster. Damit ergibt sich folgende
902 Formel für die Anzahl der Schnittmuster:
903 \begin{displaymath}
904   2^{n-m} \cdot \left( \begin{array}{c} n \\ n-m \end{array} \right)
905   = 2^{n-m} \cdot \frac{n!}{(n-m)! m!}
906   = 2^{n-m} \cdot \frac{n!}{m!} \cdot \frac{1}{(n-m)!}
907   \quad (n > m)
908 \end{displaymath}
909
910 Die Anzahl der möglichen Schnittmuster wird mit der Anzahl der zu entfernenden
911 Leitungen sehr schnell sehr groß. Um ein Sortiernetzwerk mit 32~Eingängen auf
912 ein Sortiernetzwerk mit 16~Eingängen zu reduzieren, ist ein Schmittmuster mit
913 16~Schnitten notwendig, für das es bereits etwa ${3,939 \cdot 10^{13}}$
914 Möglichkeiten gibt. Ein Ausprobieren aller Möglichkeiten ist für große
915 Netzwerke nicht oder nur unter erheblichem Ressourcenaufwand möglich.
916
917 Die Anzahl der \emph{unterschiedlichen} Schnittmuster ist allerdings kleiner
918 als die Anzahl der möglichen Schnittmuster. Für jeden Komparator auf der
919 ersten Stufe gibt es neun verschiedene Eingangskonfigurationen: Für beide
920 Eingänge gibt es drei mögliche Eingangswerte, Minimum, Maximum und
921 unspezifiziert. Es gibt drei Konfigurationen, bei denen an beiden Eingängen
922 der gleiche Wert angelegt wird, und sechs Konfigurationen, bei denen sich die
923 Werte unterscheiden.
924
925 Bei diesen letzten sechs Konfigurationen werden je zwei auf das selbe
926 Ausgangmuster abgebildet, weil die Position des Minimums beziehungsweise des
927 Maximums durch den Komparator vorgegeben wird. Das heißt, dass die neun
928 unterschiedlichen Eingangsmuster nur sechs unterschiedliche Ausgangsmuster
929 erzeugen. In der zweiten und allen folgenden Schichten kann man diesen
930 Unterschied nicht mehr erkennen. In allen sechs Fällen, in denen sich die
931 Eingänge unterscheiden, wird anschließend der Komparator entfernt, so dass
932 sich die Resultate auch in der ersten Schicht nicht unterscheiden.
933
934 \begin{figure}
935   \begin{center}
936     \includegraphics[viewport=0 0 360 216,width=15cm]{images/count-cuts-16.pdf}
937   \end{center}
938   \caption{Anzahl der \emph{unterschiedlichen} Sortiernetzwerke, die durch
939   8-Schnittmuster aus $\operatorname{OES}(16)$, $\operatorname{BS}(16)$ und
940   $\operatorname{PS}(16)$ hervorgegangen sind. Die Anzahl der
941   unterschiedlichen Netzwerke nach $10^6$~Iterationen ist 3519 für das
942   \emph{Odd-Even-Mergesort-Netzwerk}, 4973 für das \emph{bitone
943   Mergesort-Netzwerk} und 18764 für das \emph{Pairwise-Sorting-Netzwerk}.}
944   \label{fig:count-cuts-16}
945 \end{figure}
946
947 Um die Anzahl der \emph{unterschiedlichen} Schnittmuster abschätzen zu können,
948 wurden je eine Million zufällige 8-Schnittmuster auf die 16-Sortiernetzwerke
949 $\operatorname{OES}(16)$, $\operatorname{BS}(16)$ und $\operatorname{PS}(16)$
950 angewandt. Abbildung~\ref{fig:count-cuts-16} trägt die Anzahl der
951 \emph{unterschiedlichen} Schnittmuster gegen die Anzahl der zufälligen
952 Schnittmuster auf. Klar zu sehen ist, dass sich die Anzahl der erzeugten
953 Sortiernetzwerke nach $500.000$~Iterationen nur noch gering verändert und der
954 Wert nach $1.000.000$~Iterationen allem Anschein nach dem Endwert schon sehr
955 nahe ist.
956
957 Die Anzahl der 8-Schnittmuster ist entsprechend der
958 Formel~\ref{eqn:anzahl_schnittmuster} 3.294.720. Diese möglichen Schnittmuster
959 führen aber nur zu wenigen \emph{unterschiedlichen} Sortiernetzwerken: 3519
960 ($\approx 0,1\%$) im Fall des \emph{Odd-Even-Mergesort-Netzwerks}, 4973
961 ($\approx 0,15\%$) beim \emph{bitonen Mergesort-Netzwerk} und 18764 ($\approx
962 0,57\%$) beim \emph{Pairwise-Sorting-Netzwerk}. Zwar ist es möglich, dass mehr
963 Iterationen die Anzahl der unterschiedlichen Schnittmuster noch wachsen lässt.
964 Die Graphen in Abbildung~\ref{fig:count-cuts-16} geben jedoch Grund zu der
965 Annahme, dass die Anzahl dieser zusätzlichen, unterschiedlichen Schnittmuster
966 vernachlässigbar klein ist.
967
968 Bedingt durch die sehr große Anzahl möglicher Schnittmuster ist dieses
969 Experiment für größere Sortiernetzwerke leider nicht sinnvoll durchführbar. Um
970 die Anzahl der unterschiedlichen Schnittmuster trotzdem abschätzen zu können,
971 kann man sich einer stochastischen Methode bedienen, der sogenannten
972 \emph{Monte-Carlo-Methode}. Zunächst generiert man eine Menge~$S$ von
973 $k$~unterschiedlichen Schnittmustern. Anschließend werden $n$~Schnittmuster
974 zufällig erzeugt und überprüft, ob sie sich in der Menge~$S$ enthalten sind.
975 Unter der Annahme, dass das Verhältnis der zufälligen Schnittmuster, die in $S$
976 enthalten sind, und $n$ dem Verhältnis von $k$ und der Anzahl der
977 unterschiedlichen Schnittmuster ingesamt entspricht, kann man die Anzahl der
978 unterschiedlichen Schnittmuster abschätzen.
979
980 \begin{figure}
981   \begin{center}
982     \includegraphics[viewport=0 0 425 262,width=15cm]{images/collisions-10000-1000000-32.pdf}
983   \end{center}
984   \caption{Abschnätzung der unterschiedlichen Schnittmuster mit der
985   \emph{Monte-Carlo-Methode} für $\operatorname{OES}(32)$ und
986   $\operatorname{BS}(32)$.}
987   \label{fig:collisions-10000-1000000-32}
988 \end{figure}
989
990 In Abbildung~\ref{fig:collisions-10000-1000000-32} ist das Ergebnis des
991 Monte-Carlo-Algorithmus für 16-Schnittmuster zu sehen, die auf
992 $\operatorname{OES}(32)$ und $\operatorname{BS}(32)$ angewandt wurden: Von
993 jedem Sortiernetzwerk wurden zunächst eine Menge~$S$ von 10.000
994 \emph{unterschiedlichen} Schnittmustern erzeugt. Anschließend wurden 1.000.000
995 zufällige Schnittmuster erzeugt und der Anteil der zufälligen Schnittmuster,
996 die \emph{äquivalent} zu einem in~$S$ enthalten Schnittmuster sind, berechnet.
997 Für $\operatorname{OES}(32)$ war dieser Anteil etwa $0,19 \%$, für
998 $\operatorname{BS}(32)$ etwa $0,29 \%$. Das ergibt eine Abschätzung von $5,2
999 \cdot 10^6$ unterschiedlichen Schnittmustern für $\operatorname{OES}(32)$ und
1000 $3,4 \cdot 10^6$ für $\operatorname{BS}(32)$.
1001
1002 \begin{figure}
1003   \begin{center}
1004     \includegraphics[viewport=0 0 425 262,width=15cm]{images/collisions-100000-1000000-32-ps.pdf}
1005   \end{center}
1006   \caption{Abschnätzung der unterschiedlichen Schnittmuster mit der
1007   \emph{Monte-Carlo-Methode} für $\operatorname{PS}(32)$. 385 von 1.000.000
1008   zufälligen Schnittmustern waren äquivalent zu einem Schnittmuster in einer
1009   Menge von 100.000. Daraus ergibt sich eine Schätzung von $2,6 \cdot 10^8$
1010   unterschiedlichen Schnittmustern.}
1011   \label{fig:collisions-100000-1000000-32-ps}
1012 \end{figure}
1013
1014 Im vorherigen Abschnitt wurde das \emph{Pairwise-Sorting-Netzwerk}
1015 $\operatorname{PS}(32)$ nicht betrachtet, da es für dieses Netzwerk viel mehr
1016 unterschiedliche 16-Schnittmuster gibt als für $\operatorname{OES}(32)$ und
1017 $\operatorname{BS}(32)$. In Anbetracht der Tatsache, dass die Anzahl der
1018 unterschiedlichen 8-Schnittmuster für $\operatorname{PS}(16)$ in
1019 Abbildung~\ref{fig:count-cuts-16} bereits mehr als dreimal größer war als die
1020 Anzahl für $\operatorname{OES}(16)$ beziehungsweise $\operatorname{BS}(16)$,
1021 ist dieser Umstand wenig verwunderlich. In einem kombinierten Graphen hätte
1022 man keine Details mehr erkennen können. Aufgrund der hohen Anzahl
1023 unterschiedlicher Schnittmuster, wurde für das gleiche Experiment mit
1024 $\operatorname{PS}(32)$ eine initiale Menge von 100.000 unterschiedilchen
1025 Schnittmustern erzeugt. Trotzdem wurden nach 1.000.000 Iterationen nur 385
1026 Schnittmuster gefunden, die zu einem Schnittmuster in der Menge äquivalent
1027 sind. Daraus ergibt sich eine Abschätzung von $2,6 \cdot 10^8$
1028 unterschiedlichen Schnittmustern -- zwei Zehnerpotenzen mehr als bei den
1029 vorherigen Sortiernetzwerken, aber immernoch fünf Zehnerpotenzen kleiner als
1030 die Anzahl der \emph{möglichen} Schnittmuster.
1031
1032 \newpage
1033 \section{Der \textsc{SN-Evolution}-Algorithmus}
1034
1035 Um einen evolutionären Algorithmus für Sortiernetzwerke zu entwickeln, werden
1036 die vorgestellten Methoden kombiniert.
1037
1038 \subsection{Bewertungsfunktion}\label{sect:bewertung}
1039
1040 Um Sortiernetzwerke überhaupt optimieren zu können, muss zunächst die
1041 {\em Güte} eines Netzwerkes definiert werden. Prinzipiell gibt es zwei Ziele,
1042 die interessant sind:
1043 \begin{itemize}
1044   \item Möglichst wenige Komparatoren ("`klein"')
1045   \item Möglichst wenige Schichten ("`schnell"')
1046 \end{itemize}
1047
1048 Diese Ziele führen im Allgemeinen zu unterschiedlichen Netzwerken. Das
1049 kleinste bekannte Sortiernetzwerk für 16~Eingänge besteht aus 60~Komparatoren
1050 in 10~Schichten. Das schnellste Netzwerk besteht aus 61~Komparatoren in nur
1051 9~Schichten.
1052
1053 Eine Gütefunktion, die die beiden Ziele "`klein"' und "`schnell"'
1054 berücksichtigen kann, hat die folgende allgemeine Form:
1055 \begin{equation}
1056   \operatorname{Guete}(S) = w_{\mathrm{Basis}}
1057                     + w_{\mathrm{Komparatoren}} \cdot \left|S\right|_\mathrm{Komparatoren}
1058                     + w_{\mathrm{Schichten}} \cdot \left|S\right|_\mathrm{Schichten}
1059 \end{equation}
1060 Die Parameter $w_{\mathrm{Komparatoren}}$ und $w_{\mathrm{Schichten}}$ dienen
1061 dabei der Festlegung des Optimierungsziels. Wenn einer der beiden Parameter
1062 gleich Null ist, wird nur das jeweils andere Ziel verfolgt. Sind beide
1063 Parameter gleich Null, werden alle Netzwerke mit der gleich Güte bewertet --
1064 jegliche Ergebnisse sind dann rein zufälliger Natur.
1065
1066 Mit dem Parameter $w_{\mathrm{Basis}}$ kann auf die Selektion Einfluss
1067 genommen werden. Ist er groß, wird der relative Unterschied der Güten
1068 verschiedener Netzwerke kleiner, was die {\em Exploration}, das Absuchen des
1069 gesamten Lösungsraums, begünstigt. Wählt man $w_{\mathrm{Basis}}$ hingegen
1070 klein, in Abhängigkeit von den anderen beiden Parametern sind auch negative
1071 Werte möglich, werden die relativen Unterschiede groß. Dadurch wird die {\em
1072 Exploitation}, das Finden lokaler Optima, bevorzugt.
1073
1074 \subsection{Selektion}
1075
1076 ...
1077
1078 \subsection{Rekombination}
1079
1080 Bei der Rekombination werden zwei Individuen --~hier Sortiernetzwerke~-- zu
1081 einer neuen Lösung kombiniert. Dazu verwenden wir einen Mischer, zum Beispiel
1082 den {\em bitonen Mischer} (Abschnitt~\ref{sect:der_bitone_mischer}) oder den
1083 {\em Odd-Even-Mischer} (Abschnitt~\ref{sect:der_odd_even_mischer}), um die
1084 beiden Netzwerke zu einem Netzwerk mit $2n$~Leitungen zusammenzufügen.
1085 Anschließend entfernen wir zufällig $n$~Leitungen wie in
1086 Abschnitt~\ref{sect:leitungen_entfernen} beschrieben.
1087
1088 Dieses Verfahren hat den großen Vorteil, dass es die Sortiereigenschaft
1089 erhält.
1090
1091 \subsection{Mutation}
1092
1093 Zu einem vollständigen evolutionären Algorithmus gehört außerdem eine Mutation
1094 --~eine zufällige Veränderung einer Lösung. Leider ist es nicht möglich ein
1095 Sortiernetzwerk zufällig zu verändern aber trotzdem die Sortiereigenschaft zu
1096 erhalten. Selbst das \emph{Hinzufügen} eines zufälligen Komparators kann diese
1097 Eigenschaft zerstören.
1098
1099 Nach einer Mutation müsste man überprüfen, ob das neue Komparatornetzwerk die
1100 Sortiereigenschaft noch besitzt. Nach heutigem Wissenstand ist diese
1101 Überprüfung nur mit exponentiellem Aufwand möglich, etwa durch das
1102 Ausprobieren aller $2^n$~Bitmuster.
1103
1104 Um das Potenzial einer Mutation abzuschätzen habe ich in den evolutionären
1105 Algorithmus eine Überprüfung eingebaut. Unmittelbar vor dem Einfügen in die
1106 Population überprüft das Programm die Notwendigkeit jedes einzelnen
1107 Komparators. Dazu wurde nacheinander jeder Komparator entfernt und überprüft,
1108 ob das verbleibende Netzwerk die Sortiereigenschaft noch besitzt.
1109
1110 \begin{itemize}
1111 \item Güte von Sortiernetzwerken (Anzahl der Komparatoren, Anzahl der
1112 Schichten, kobiniert)
1113 \item Rekombination: Merge Anhängen und Leitungen entfernen.
1114 \end{itemize}
1115
1116 Ein Beispielnetzwerk, das von dem Algorithmus gefunden wird, zeigt
1117 Abbildung~\ref{fig:evolutionary_08}.
1118
1119 \begin{figure}
1120 \begin{center}
1121 \input{images/evolutionary-08.tex}
1122 \end{center}
1123 \caption{Ein mit dem evolutionären Algorithmus erzeugtes Sortiernetzwerk mit
1124 acht Eingängen. Es besteht aus 19~Komparatoren in 6~Schichten.}
1125 \label{fig:evolutionary_08}
1126 \end{figure}
1127
1128 \begin{figure}
1129 \begin{center}
1130 \input{images/08-e2-1237993371.tex}
1131 \end{center}
1132 \caption{{\tt images/08-e2-1237993371.tex}: 19~Komparatoren in 6~Schichten}
1133 \label{fig:08-e2-1237993371}
1134 \end{figure}
1135
1136 \begin{figure}
1137 \begin{center}
1138 \input{images/09-e2-1237997073.tex}
1139 \end{center}
1140 \caption{{\tt images/09-e2-1237997073.tex}: 25~Komparatoren in 8~Schichten}
1141 \label{fig:09-e2-1237997073}
1142 \end{figure}
1143
1144 \begin{figure}
1145 \begin{center}
1146 \input{images/09-e2-1237999719.tex}
1147 \end{center}
1148 \caption{{\tt images/09-e2-1237999719.tex}: 25~Komparatoren in 7~Schichten}
1149 \label{fig:09-e2-1237999719}
1150 \end{figure}
1151
1152 \begin{figure}
1153 \begin{center}
1154 \input{images/10-e2-1239014566.tex}
1155 \end{center}
1156 \caption{{\tt images/10-e2-1239014566.tex}: 29~Komparatoren in 8~Schichten}
1157 \label{fig:10-e2-1239014566}
1158 \end{figure}
1159
1160 \subsection{Güte}
1161
1162 \begin{itemize}
1163 \item So gut kann man mindestens werden {\em ($\rightarrow$ Bitonic-Mergesort, vermute ich)}.
1164 \item Wie gut die Netzwerke werden, hängt stark vom verwendeten \em{Mischer} ab.
1165 \item Ggf. Abschnitt „Shmoo-Äquivalenz“ kürzen und hier einbauen.
1166 \end{itemize}
1167
1168 %\input{shmoo-aequivalenz.tex}
1169
1170 \newpage
1171 \section{Der \textsc{SN-Evolution-Cut}-Algorithmus}
1172 \label{sect:sn-evolution-cut}
1173
1174 Das Programm \textsc{SN-Evolution-Cut} implementiert einen evolutionären
1175 Algorithmus, der zu einem gegebenen Sortiernetzwerk und einer gewünschten
1176 Leitungszahl ein Schnittmuster sucht, dass ein Sortiernetzwerk mit einer
1177 möglichst geringen Anzahl von Komparatoren und Schichten ergibt. Zur Bewertung
1178 von Sortiernetzwerken siehe auch Abschnitt~\ref{sect:bewertung}. Mit diesem
1179 Algorithmus wurden zu einer Reihe von „interessanten“ Netzwerken möglichst
1180 gute Schnittmuster gesucht.
1181
1182 Der \textsc{SN-Evolution-Cut}-Algorithmus verwendet die \emph{Schnittmuster}
1183 als Individuen. Um zwei Individuen zu rekombinieren werden die ersten
1184 $r$~Schnitte des einen Schnittmusters verwendet und die letzten
1185 ${c-r}$~Schnitte des zweiten Schmittmusters. $r$ ist eine Zufallsvariable mit
1186 $0 \leqq r \leqq c$.
1187
1188 Die Mutation setzt entweder die Leitungs-Nummer eines Schnitts~$i$ zufällig
1189 auf einen neuen Wert $l$ mit $0 \leqq l \le n-i$ oder invertiert die
1190 Schnitt-Richtung.
1191
1192 \subsection{Versuche mit dem bitonen Mergesort-Netzwerk}
1193
1194 In \cite{MW2010} zeigen \textit{Moritz Mühlenthaler} und \textit{Rolf Wanka},
1195 wie man einen bitonen Mischer, der nach Batchers Methode konstruiert wurde,
1196 durch systematisches Entfernen von Leitungen in einen ebenfalls bitonen
1197 Mischer mit der Hälfte der Leitungen transformiert. Diese alternativen Mischer
1198 sparen im Vergleich zu den Mischern, die nach Batchers Methode konstruiert
1199 werden, Komparatoren ein.
1200
1201 Beispeilsweise geben \textit{Mühlenthaler} und \textit{Wanka} ein
1202 Sortiernetzwerk mit 16~Eingängen an, das mithilfe der alternativen Mischer
1203 konstruiert wurde. Dieses Sortiernetzwerk benötigt 68~Komparatoren, 12~weniger
1204 als das bitone Mergesort-Netzwerk nach Batchers Methode. Gegenüber Batchers
1205 Methode sparen so konstruierte Sortiernetzwerke ${\frac{1}{4}n(\log n - 1)}$
1206 Komparatoren ein.
1207
1208 \begin{figure}
1209   \begin{center}
1210     \input{images/16-ec-from-bs32.tex}
1211   \end{center}
1212   \caption{Sortiernetzwerk mit 16~Leitungen und 68~Komparatoren in
1213     10~Schichten. Das Netzwerk wurde von dem Algorithmus
1214     \textsc{SN-Evolution-Cut} aus dem \emph{bitonen Mergesort-Netzwerk}
1215     $\operatorname{BS}(32)$ durch 16~Schnitte erzeugt.}
1216   \label{fig:16-ec-from-bs32}
1217 \end{figure}
1218
1219 \begin{figure}
1220   \begin{center}
1221     \input{images/16-ec-from-bs32-normalized.tex}
1222   \end{center}
1223   \caption{Sortiernetzwerk mit 16~Leitungen und 68~Komparatoren in
1224     10~Schichten. Das Netzwerk wurde von dem Algorithmus
1225     \textsc{SN-Evolution-Cut} aus dem bitonen Mergesort-Netzwerk
1226     $\operatorname{BS}(32)$ durch 16~Schnitte erzeugt.}
1227   \label{fig:16-ec-from-bs32-normalized}
1228 \end{figure}
1229
1230 Startet man {\sc SN-Evolution-Cut} mit dem bitonen Mergesort-Netzwerk
1231 $\operatorname{BS}(32)$ und der Vorgabe 16~Leitungen zu entfernen, liefert der
1232 Algorithmus Sortiernetzwerke, die ebenfalls aus 68~Komparatoren bestehen. Ein
1233 16-Sortiernetzwerk, das auf diese Weise generiert wurde, ist in den
1234 Abbildungen~\ref{fig:16-ec-from-bs32} und~\ref{fig:16-ec-from-bs32-normalized}
1235 zu sehen. Abbildung~\ref{fig:16-ec-from-bs32} zeigt $\operatorname{BS}(32)$
1236 und das
1237 ${\operatorname{MIN}(0,5,9,11,15,17,20,22,26,29,30)}$-${\operatorname{MAX}(2,4,13,19,24)}$-Schnittmuster,
1238 das durch \textsc{SN-Evolution-Cut} gefunden wurde.
1239 Abbildung~\ref{fig:16-ec-from-bs32-normalized} zeigt das 16-Sortiernetzwerk
1240 nachdem das Schnittmuster angewandt und das Netzwerk normalisiert wurde. Eine
1241 Ähnlichkeit zu $\operatorname{BS}(32)$ oder $\operatorname{BS}(16)$ ist in
1242 diesem Netzwerk nicht mehr erkennbar -- insbesondere die ersten Schichten des
1243 Netzwerks scheinen rein zufällig zu sein.
1244
1245 \begin{figure}
1246   % 0:MAX 1:MAX 4:MIN 6:MAX 9:MAX 11:MAX 14:MIN 15:MAX 18:MAX 19:MAX 21:MAX
1247   % 23:MIN 24:MAX 25:MAX 30:MIN 31:MIN 32:MAX 34:MAX 36:MIN 37:MAX 40:MAX
1248   % 43:MAX 46:MIN 47:MAX 48:MAX 49:MAX 54:MIN 55:MAX 56:MAX 58:MIN 60:MAX
1249   % 63:MAX
1250   \begin{center}
1251     \input{images/32-ec-from-bs64.tex}
1252   \end{center}
1253   \caption{Sortiernetzwerk mit 32~Leitungen und 206~Komparatoren in
1254     15~Schichten. Das Netzwerk wurde von dem Algorithmus
1255     \textsc{SN-Evolution-Cut} aus dem bitonen Mergesort-Netzwerk
1256     $\operatorname{BS}(64)$ durch 32~Schnitte erzeugt. Das zugehörige
1257     Schnittmuster ist
1258     $\operatorname{MIN}(4, 14, 23, 30, 31, 36, 46, 54, 58)$,
1259     $\operatorname{MAX}(0, 1, 6, 9, 11, 15, 18, 19, 21, 24, 25, 32, 34, 37,
1260     40, 43, 47, 48, 49, 55, 56, 60, 63)$.}
1261   \label{fig:32-ec-from-bs64}
1262 \end{figure}
1263
1264 Das Ergebnis von \textit{Mühlenthaler} von \textit{Wanka}, die den bitonen
1265 Mischer optimiert und anschließend aus diesen Mischern ein Sortiernetzwerk
1266 konstruiert haben, kann demnach auch erreicht werden, wenn
1267 $\operatorname{BS}(32)$ auf ein 16-Sortiernetzwerk reduziert wird. Bei anderen
1268 Größen, beispielsweise wenn man $\operatorname{BS}(64)$ auf ein
1269 32-Sortiernetzwerk reduziert, kann das Ergebnis sogar noch übertroffen werden,
1270 wie in Abbildung~\ref{fig:32-ec-from-bs64} zu sehen: Ein nach Batchers Methode
1271 konstruiertes Sortiernetzwerk benötigt 240~Komparatoren, ein aus den
1272 optimierten Mischern aufgebautes Netzwerk verbessert die Kosten auf
1273 208~Komparatoren. Das in Abbildung~\ref{fig:32-ec-from-bs64} dargestellte
1274 Sortiernetzwerk benötigt lediglich 206~Komparatoren. Die Komparatoren aller
1275 dieser Netzwerke können in 15~Schichten angeordnet werden, so dass die
1276 Verzögerung dieser Sortiernetzwerke gleich ist.
1277
1278 Leider sind die Schnittmuster, die \textsc{SN-Evolution-Cut} ausgibt, sehr
1279 unregelmäßig. Bisher ist es nicht gelungen eine Konstruktionsanweisung für
1280 gute Schnittmuster anzugeben.
1281
1282 Entscheidend für das Ergebnis eines Schnittmusters scheint beim bitonen
1283 Mergesort-Netzwerk die Aufteilung der Minimum- und Maximumschnitte zu sein.
1284 Von Hundert 16-Schnittmustern für $\operatorname{BS}(32)$, die in
1285 Sortiernetzwerken mit 68~Komparatoren in 10~Schichten resultieren, hatten 73
1286 ein Verhältnis von $5/11$, 13 hatten ein Verhältnis von $4/12$ und 14 hatten
1287 ein Verhältnis von $3/13$ Minimum- beziehungsweise Maximumschnitten. Da sich
1288 die Schnittmuster aufgrund der Symmetrie des bitonen Mergesort-Netzwerks
1289 leicht invertieren lassen, werden der Fall, dass es mehr Minimumschnitte, und
1290 der Fall, dass es mehr Maximumschnitte gibt, nicht unterschieden.
1291
1292 Dass die Ergebnisse von \textsc{SN-Evolution-Cut} keine erkennbare Struktur
1293 haben, ist jedoch kein Eigenschaft des Algorithmus, sondern hängt insbesondere
1294 von der Eingabe ab. Wird \textsc{SN-Evolution-Cut} beispielsweise mit dem
1295 \emph{Odd-Even-Transpositionsort-Netzwerk} $\operatorname{OET}(n)$ und
1296 $m$~Schnitten gestartet, so ist das beste Ergebnis immer das
1297 $\operatorname{OET}(n-m)$-Netzwerk. 
1298
1299 \begin{figure}
1300   \begin{center}
1301     \input{images/16-ec-from-ps32.tex}
1302   \end{center}
1303   \caption{Sortiernetzwerk mit 16~Leitungen und 63~Komparatoren in
1304     10~Schichten. Das Netzwerk wurde von dem Algorithmus
1305     \textsc{SN-Evolution-Cut} aus dem \emph{Pairwise-Sorting-Netzwerk}
1306     $\operatorname{PS}(32)$ durch 16~Schnitte erzeugt.}
1307   \label{fig:16-ec-from-ps32}
1308 \end{figure}
1309
1310 \subsection{Versuche mit dem Pairwise-Sorting-Netzwerk}
1311
1312 Anders verhält sich das \emph{Pairwise-Sorting-Netzwerk}
1313 $\operatorname{PS}(n)$, das \textit{Ian Parberry} in seiner Arbeit „The
1314 Pairwise Sorting Network“ \cite{P1992} definiert. Startet man
1315 \textsc{SN-Evolution-Cut} mit $\operatorname{PS}(32)$ und der Vorgabe,
1316 16~Leitungen zu entfernen, erhält man ein Sortiernetzwerk, dass die gleiche
1317 Anzahl an Komparatoren und Schichten hat wie $\operatorname{PS}(16)$ und
1318 $\operatorname{OES}(16)$. Eines dieser Sortiernetzwerke ist in
1319 Abbildung~\ref{fig:16-ec-from-ps32} dargestellt.
1320
1321 Obwohl das \emph{Pairwise-Sorting-Netzwerk} den \emph{Odd-Even-Mischer} nicht
1322 einsetzt und auch nicht auf einem Mischer basiert, ist der
1323 $\operatorname{OEM}(8,8)$ im Sortiernetzwerk in
1324 Abbildung~\ref{fig:16-ec-from-ps32} eindeutig erkennbar (Schichten~7--10). In
1325 den Schichten~1--6 erkennt man zwei unabhängige Sortiernetzerke, die
1326 strukturell identisch zu $\operatorname{PS}(8)$ sind -- lediglich die
1327 Schichten~1 und~2 sowie 4~und~5 sind vertauscht.
1328
1329 \begin{displaymath}
1330 \textit{Eingang}_i = \left\{ \begin{array}{rl}
1331   -\infty & \quad \textrm{falls } i \operatorname{mod} 8 \in \{0, 6\} \\
1332    \infty & \quad \textrm{falls } i \operatorname{mod} 8 \in \{2, 4\} \\
1333         ? & \quad \mathrm{sonst}
1334   \end{array} \right.
1335 \end{displaymath}
1336
1337 \begin{figure}
1338   \begin{center}
1339     \input{images/32-pairwise-cut-16-pairwise.tex}
1340   \end{center}
1341   \caption{PS(32) mit 16 Schnitten zu PS(16).}
1342   \label{fig:ps16-from-ps32}
1343 \end{figure}
1344
1345 \begin{figure}
1346   \begin{center}
1347     \input{images/16-pairwise.tex}
1348   \end{center}
1349   \caption{Das $\operatorname{PS}(16)$-Sortiernetzwerk mit 8~Schnitten
1350   ($\operatorname{MIN}(0,2,4,6), \operatorname{MAX}(9,11,13,15)$). Das
1351   resultierende 8-Sortiernetzwerk ist $\operatorname{OES}(8)$.}
1352   \label{fig:16-pairwise}
1353 \end{figure}
1354
1355 Wendet man \textsc{SN-Evolution-Cut} auf $\operatorname{PS}(16)$ an, so kann
1356 man $\operatorname{OES}(8)$ erhalten.
1357
1358 \subsection{Versuche mit dem Odd-Even-Mergesort-Netzwerk}
1359
1360 \todo{Schreibe noch etwas zum Odd-Even-Mergesort-Netzwerk.}
1361
1362 \begin{itemize}
1363   \item Beispiel: Moritz und Rolfs Optimierung für Bitonic-Sort.
1364   \item Wie gut kann man durch wegschneiden werden?
1365   \item Wieviele Schnitte ergeben das selbe Netzwerk? Oder andersrum: Wieviele
1366   unterschiedliche Netzwerke kann ich erhalten? Wieviele Nachfolger hat ein
1367   Netzwerk / Knoten in der Markov-Kette?
1368   \item Abschnitt „Optimierung der Schnitte“ hier einbauen.
1369 \end{itemize}
1370
1371 \newpage
1372 \section{Der \textsc{SN-Markov}-Algorithmus}
1373
1374 Der evolutionäre \textsc{SN-Evolution}-Algorithmus aus dem vorherigen
1375 Abschnitt verwendete immer zwei zufällige Sortiernetzwerke („Individuen“) aus
1376 einer Population. Da die beiden „Eltern“ zufällig und unabhängig voneinander
1377 ausgewählt werden, kann es vorkommen, dass das selbe Sortiernetzwerk zweimal
1378 verwendet und mit sich selbst kombiniert wird.
1379
1380 Macht man diesen Spezialfall zum Regelfall, indem man \emph{immer} das
1381 aktuelle Netzwerk mit sich selbst kombiniert und anschließend die Hälfte aller
1382 Leitungen eliminiert, lassen sich einige interessante Beobachtungen anstellen.
1383 Netzwerke, die aus einem Netzwerk $S_0$ durch die beschriebene Kombination von
1384 $S_0$ mit sich selbst und anschließendem Eliminieren der Hälfte der Leitungen
1385 hervorgehen können, heißen \emph{Nachfolger} von $S_0$.
1386
1387 Beim beschriebenen Vorgehen kann man die Sortiernetzwerke als Knoten in einem
1388 (gerichteten) Graphen betrachten. Zwei Knoten $V_0$ und $V_1$, die zwei
1389 Sortiernetzwerke $S_0$ und $S_1$ repräsentieren, sind genau dann mit einer
1390 Kante ${E_{0,1} = (V_0, V_1)}$ verbunden, wenn $S_1$ ein \emph{Nachfolger} von
1391 $S_0$ ist, das heißt dass man $S_1$ durch die Rekombination von $S_0$ mit sich
1392 selbst erzeugen kann.
1393
1394 Wie in Abschnitt~\ref{sect:anzahl_schnittmuster} beschrieben ist die Anzahl
1395 (unterschiedlicher) Schnittmuster und damit die Anzahl der Nachfolger sehr
1396 groß. Wenn $S_0$ ein Sortiernetzwerk mit $n$~Leitungen ist, so hat $S_0$ bis
1397 zu
1398 \begin{displaymath}
1399   2^n \cdot \left( \begin{array}{c} 2n \\ n \end{array} \right)
1400 \end{displaymath}
1401 Nachfolger.
1402
1403 Der Algorithmus {\sc SN-Markov} legt auf diesem Nachfolger-Graph einen
1404 zufälligen Weg (englisch: \textit{random walk}) zurück. Er startet auf einem
1405 gegebenen Sortiernetzwerk. Um von einem Sortiernetzwerk zum Nächsten zu
1406 gelangen, rekombiniert der Algorithmus das aktuelle Sortiernetzwerk mit sich
1407 selbst und erhält so einen zufälligen Nachfolger.
1408
1409 \begin{itemize}
1410   \item $n \leftarrow \mathrm{Input}$
1411   \item \texttt{while} \textit{true}
1412   \begin{itemize}
1413     \item $n \leftarrow \operatorname{recombine} (n, n)$
1414   \end{itemize}
1415 \end{itemize}
1416
1417 \begin{itemize}
1418   \item Beste erreichte Netzwerke (gleich zu \emph{OE-Mergesort}).
1419   \item Anzahl der erreichbaren Sortiernetzwerke.
1420   \item Anzahl der Komparatoren und Anzahl der Schichten der durchlaufenen
1421     Netzwerke. (Abbildung~\ref{fig:markov-comparators-16})
1422 \end{itemize}
1423
1424 \begin{figure}
1425   \begin{center}
1426   \includegraphics[viewport=0 0 360 216,width=15cm]{images/markov-comparators-12-pct.pdf}
1427   \end{center}
1428   \caption{Anzahl der Komparatoren von Sortiernetzwerken (mit 12~Leitungen),
1429   die von {\sc SN-Markov} durchlaufen wurden. Grün eingezeichnet ist die
1430   \emph{Gamma-Verteilung} $f(x - 40)$ mit $k = 8,267$ und $\theta = 0,962$.}
1431   \label{fig:markov-comparators-12}
1432 \end{figure}
1433
1434 \begin{figure}
1435   \begin{center}
1436   \includegraphics[viewport=0 0 360 216,width=15cm]{images/markov-comparators-14-pct.pdf}
1437   \end{center}
1438   \caption{Anzahl der Komparatoren von Sortiernetzwerken (mit 14~Leitungen),
1439   die von {\sc SN-Markov} durchlaufen wurden. Grün eingezeichnet ist die
1440   \emph{Gamma-Verteilung} $f(x - 52)$ mit $k = 9,522$ und $\theta = 0,867$.}
1441   \label{fig:markov-comparators-14}
1442 \end{figure}
1443
1444 \begin{figure}
1445   \begin{center}
1446   \includegraphics[viewport=0 0 360 216,width=15cm]{images/markov-comparators-16-pct.pdf}
1447   \end{center}
1448   \caption{Anzahl der Komparatoren von Sortiernetzwerken (mit 16~Leitungen),
1449   die von {\sc SN-Markov} durchlaufen wurden. Grün eingezeichnet ist die
1450   \emph{Gamma-Verteilung} $f(x - 62)$ mit $k = 17,939$ und $\theta = 1,091$.}
1451   \label{fig:markov-comparators-16}
1452 \end{figure}
1453
1454 \newpage
1455 \section{Empirische Beobachtungen}
1456
1457 \begin{itemize}
1458 \item So schnell konvergiert der Algorithmus.
1459 \item $\ldots$
1460 \end{itemize}
1461
1462 \newpage
1463 \section{Ausblick}
1464
1465 Das würde mir noch einfallen$\ldots$
1466
1467 \newpage
1468 \section{Implementierung}
1469
1470 So habe ich die ganzen Versuche durchgeführt.
1471
1472 \newpage
1473 \bibliography{references}
1474 \bibliographystyle{plain}
1475
1476 %\listoffigures
1477
1478 \end{document}
1479
1480 % vim: set shiftwidth=2 softtabstop=2 tabstop=8 fdm=marker tw=78 :