Schnittmuster: Kleine Verbesserungen.
[diplomarbeit.git] / diplomarbeit.tex
1 \documentclass[a4paper,11pt]{article}
2 \usepackage[utf8]{inputenc}
3 \usepackage{ngerman}
4 \usepackage{fancyhdr}
5 \usepackage{geometry}
6 \usepackage{amsmath, bbm}
7 \usepackage{amsfonts}
8 \usepackage{amssymb}
9 \usepackage{listings}
10 \usepackage{graphicx}
11 \usepackage{url}
12 %\usepackage{longtable}
13 \usepackage{subfigure}
14 \usepackage{icomma}
15
16 \usepackage{tikz}
17 \usetikzlibrary{arrows,shapes}
18
19 % Fuer mathtoolsset
20 \usepackage{mathtools}
21
22 \geometry{paper=a4paper,margin=30mm}
23
24 \pagestyle{fancy}
25 %\fancyhf{}
26 %\fancyhead[LO,LE]{"Ubung zu Computational Intelligence}
27 %\fancyhead[CO,CE]{2006-05-15}
28 %\fancyhead[RO,RE]{Florian Forster (2099894)}
29
30 \title{Evolutionäre Optimierung von Sortiernetzwerken}
31 \author{Florian Forster}
32 \date{\today}
33
34 \newcommand{\false}{\textsc{False}}
35 \newcommand{\true}{\textsc{True}}
36 \newcommand{\todo}[1]{{\bf TODO:} #1}
37 \newcommand{\qed}{\hfill $\Box$ \par \bigskip}
38
39 \newtheorem{definition}{Definition}
40 \newtheorem{satz}{Satz}
41
42 % Zeige Nummern nur bei referenzierten Gleichungen an.
43 \mathtoolsset{showonlyrefs=true}
44
45 \begin{document}
46
47 \tikzstyle{vertex}   = [circle,draw,thick,fill=black,minimum size=5,inner sep=0pt]
48 \tikzstyle{comp}     = [draw,thick,-]
49 \tikzstyle{compup}   = [draw,thick,->]
50 \tikzstyle{compdown} = [draw,thick,<-]
51 \tikzstyle{edge}     = [draw,thick,-]
52 \tikzstyle{diredge}  = [draw,thick,->]
53 \tikzstyle{prob}     = [font=\tiny]
54
55 \tikzstyle{edge minimum} = [edge,color=blue!20]
56 \tikzstyle{edge maximum} = [edge,color=red!20]
57 \tikzstyle{vertex active minimum} = [vertex,color=blue!50, fill=blue!50]
58 \tikzstyle{vertex active maximum} = [vertex,color=red!50, fill=red!50]
59 \tikzstyle{vertex active minimum maximum} = [vertex,color=violet!50, fill=violet!50]
60 \tikzstyle{vertex inactive minimum} = [vertex,color=blue!20, fill=blue!20]
61 \tikzstyle{vertex inactive maximum} = [vertex,color=red!20, fill=red!20]
62 \tikzstyle{vertex inactive minimum maximum} = [vertex,color=black!20, fill=black!20]
63 \tikzstyle{comp active minimum} = [comp]
64 \tikzstyle{comp active maximum} = [comp]
65 \tikzstyle{comp active minimum maximum} = [comp,color=black!20]
66 \tikzstyle{comp inactive minimum} = [comp,color=blue!20]
67 \tikzstyle{comp inactive maximum} = [comp,color=red!20]
68 \tikzstyle{comp inactive minimum maximum} = [comp,color=black!20]
69
70 \tikzstyle{red box}   = [draw,-,color=red, top color=red!2,bottom color=red!10]
71 \tikzstyle{blue box}  = [draw,-,color=blue,top color=blue!2,bottom color=blue!10]
72 \tikzstyle{green box} = [draw,-,color=teal,top color=teal!2,bottom color=teal!10]
73 \tikzstyle{gray box}  = [draw,-,color=black, top color=black!2,bottom color=black!10]
74
75 \maketitle
76 \begin{abstract}
77 Sortiernetzwerke werden eingeführt und einige bekannte Konstruktionen werden
78 vorgestellt (Off-Even-Transposition, Bitonic-Merge, Odd-Even-Merge, Pairwise).
79 Transformationsmöglichkeiten für Sortiernetzwerke werden besprochen.
80 Evolutionäre Algorithmen werden beschrieben und ein evolutionärer
81 Algorithmus für die Optimierung von Sortiernetzwerken wird angegeben.
82 Die mindestens von diesem Algorithmus erreichte Güte wird angegeben und die
83 Transformation zu einer Markov-Kette wird gezeigt. {\em Natürlich: So fern ich
84 das hinbekomme bzw. Recht behalte.}
85 \end{abstract}
86 \newpage
87
88 \tableofcontents
89
90 \newpage
91 \section{Motivation und Einleitung}
92
93 \subsection{Motivation}\label{sect:motivation}
94
95 \begin{itemize}
96 \item Sortiernetzwerke sind toll, weil $\ldots$
97 \item Sortiernetzwerke sind einfach erklärt, aber trotzdem kompliziert.
98 \item Bisher noch kein evolutionärer Algorithmus zur automatischen
99   Optimierung von Sortiernetzwerken bekannt. \textit{(Glaube ich zumindest.)}
100 \end{itemize}
101
102 \subsection{Einleitung}\label{sect:einleitung}
103
104 \subsubsection{Sortiernetzwerke}\label{sect:einleitung_sortiernetzwerke}
105
106 {\em Komparatoren} sind die Bausteine, die {\em Sortiernetzwerken} zugrunde
107 liegen. Sie haben zwei Eingänge über die sie zwei Zahlen erhalten können.
108 Ausserdem besitzt ein {\em Komparator} zwei Ausgänge, die im Gegensatz zu den
109 Eingängen unterscheidbar sind: Die grö"sere der beiden Zahlen wird immer auf
110 dem einen, die kleinere der beiden Zahlen immer auf dem anderen Ausgang
111 ausgegeben.
112
113 Wenn man nun mehrere {\em Komparatoren} miteinander kombiniert, also die
114 Ausgänge von Komparatoren mit dem Eingängen anderer Komparatoren verbindet,
115 erhält man ein {\em Komparatornetzwerk}.
116
117 \begin{figure}
118 \begin{center}
119 \input{images/einfaches_komparatornetzwerk.tex}
120 \end{center}
121 \caption{Einfaches Komparatornetzwerk mit vier Ein- bzw. Ausgängen, bestehend
122 aus 5~Komparatoren.}
123 \label{fig:einfaches_komparatornetzwerk}
124 \end{figure}
125
126 Abbildung~\ref{fig:einfaches_komparatornetzwerk} zeigt ein einfaches
127 Komparatornetzwerk aus fünf Komparatoren in der üblichen Darstellungsweise:
128 Die horizontalen Linien stellen Leitungen von den Eingängen auf der linken
129 Seite zu den Ausgängen auf er rechten Seite dar. Die vertikalen Pfeile
130 symbolisieren die Komparatoren, die die Werte "`auf den Leitungen"'
131 vergleichen und ggf. vertauschen. Nach einem Komparator befindet sich die
132 kleinere Zahl immer auf der Leitung, auf die der Pfeil zeigt, die größere Zahl
133 befindet sich auf der Leitung auf der der Pfeil seinen Ursprung hat.
134
135 Komparatoren, die unterschiedliche Leitungen miteinander vergleichen, können
136 gleichzeitig angewandt werden. Das Beispiel in
137 Abbildung~\ref{fig:einfaches_komparatornetzwerk} verwendet diesen Umstand und
138 vergleicht in einem ersten Schritt die zwei oberen und die zwei unteren
139 Leitungen gleichzeitig. Eine Gruppe von Komparatoren, die gleichzeitig
140 angewendet werden können, nennt man eine \emph{Schicht} des
141 Komparatornetwerks. Die \emph{Verzögerung} eines Komparatornetzwerks ist
142 gleichbedeutend mit der Anzahl der Schichten, in die sich die Komparatoren
143 mindestens gruppieren lassen, da sie die Anzahl der benötigten parallelen
144 Schritte darstellt.
145
146 Komparatornetzwerke, die für jede beliebige Eingabepermutation eine
147 Ausgabe erzeugen, die der Sortierung der Eingabe entspricht, heißen 
148 {\em Sortiernetzwerke}. Das in
149 Abbildung~\ref{fig:einfaches_komparatornetzwerk} gezeigte Komparatornetzwerk
150 ist kein Sotiernetzwerk: Die Eingabefolge ${(1, 2, 3, 4)}$ würde zur Ausgabe
151 ${(2, 1, 3, 4)}$ führen -- die bestehenden Sortierung wird also sogar
152 zerstört.
153
154 Zu beweisen, dass ein gegebenes Komparatornetzwerk die Sortiereigenschaft
155 {\em nicht} hat, ist mit einem gegebenen Gegenbeispiel einfach möglich.
156 Dieses Gegenbeispiel zu finden ist allerdings aufwendig.
157
158 \todo{Wie findet man die Gegenbeispiele? Die {\em Entscheidung}, ob ein
159 Netzwerk sortiert, ist doch NP-vollständig, also müsste doch das Finden eines
160 Gegenbeispiels im Allgemeinen auch exponentialle Laufzeit haben..?}
161 \todo{Wenn die {\em Entscheidung}, ob ein Netzwerk sortiert, NP-vollständig
162 ist, müsse man dann nicht einen Zeugen für die Sortiereigenschaft angeben
163 können?}
164
165 \todo{$0-1$-Prinzip}
166
167 Um zu überprüfen, ob ein gegebenes Komparatornetzwerk die Sortiereigenschaft
168 besetzt, müssen nicht alle $n!$ Permutationen von $n$~unterschiedlichen Zahlen
169 ausprobieren. Stattdessen reicht es zu überprüfen, dass das Netzwerk alle
170 $2^n$~0-1-Folgen sortiert.
171
172 Sortiernetzwerke:
173 \begin{itemize}
174 \item Ein Komparator-Netzwerk ist $\ldots$
175 \item Ein Komparator-Netzwerk ist ein Sortiernetzwerk, wenn $\ldots$
176 \item Die Frage nach der Sortiereigenschaft ist NP-vollständig.
177 \end{itemize}
178
179 \subsubsection{Evolutionäre Algorithmen}
180
181 Viele {\em kombinatorische Optimierungsprobleme} sind schwer zu lösen -- die
182 entsprechenden Entscheidungsprobleme liegen oft in der Komplexitätsklasse
183 $NP$, sind also mit bekannten Verfahren nicht effizient exakt lösbar. Sollte
184 sich herausstellen, dass diese Probleme nicht in der Komplexitätsklasse $P$
185 liegen, wäre eine Konsequenz, dass es effiziente exakte Algorithmen für diese
186 Probleme nicht geben kann. Falls sich hingegen herausstellt, dass diese
187 Probleme in der Komplexitätsklasse~$P$ liegen, wird es mit großer
188 Wahrscheinlichkeit noch einige Zeit dauern bis auch Algorithmen mit
189 praktikablen Zeitkonstanten gefunden werden.
190
191 Aus diesem Grund besteht die Notwendigkeit einen Kompromiss einzugehen: Statt
192 die bzw. eine der {\em optimalen} Lösungen als einzige Ausgabe des Algorithmus
193 zuzulassen, wird eine "`möglichst gute"' Lösung ausgegeben. Viele dieser
194 Optimierungsalgorithmen orientieren sich an Vorgängen in der Natur,
195 beispielsweise immitieren die "`Ameisenalgorithmen"' das Verhalten von Ameisen
196 auf der Futtersuche um kurze Rundreisen auf Graphen zu berechnen.
197
198 Bei {\em Evolutionären Algorithmen} stand die Evolution pate. Die Grundidee
199 ist es, bestehende Lösungen zu neuen, unter Umständen besseren Lösungen zu
200 kombinieren. Dabei bedient man sich der in der Evolutionstheorie etablierten
201 Nomenklatur, beispielsweise werden konkrete Lösungen für ein Problem häufig
202 als {\em Individuum} bezeichnet.
203
204 Die Vorgehensweise lässt sich abstrakt wie folgt beschreiben. Aus einer
205 bestehenden Lösungsmenge, der {\em Population} werden zufällig Lösungen
206 ausgesucht {\em (Selektion)} und zu einer neuen Lösung kombiniert ({\em
207 Rekombination}). Unter Umständen wird die neue Lösung noch zufällig
208 verändert {\em (Mutation)}, bevor sie in die bestehende Lösungsmenge
209 integriert wird. Die Wahrscheinlichkeiten, beispielsweise bei der {\em
210 Selektion}, sind dabei nicht zwangsläufig gleichverteilt -- üblicherweise
211 werden bessere Lösungen bevorzugt. Zur Bewertung dient die sogenannte {\em
212 Gütefunktion}.
213
214 Nicht alle Probleme eignen sich für diese Strategie: Zum einen muss es möglich
215 sein, eine initiale Population zur Verfügung zu stellen, da diese als Basis
216 aller weiteren Operationen dient. Das ist häufig keine große Einschränkung, da
217 es oft einfach ist {\em irgendeine} Lösung anzugeben. Zum anderen muss eine
218 Methode für die Rekombination existieren. Das insbesondere dann problematisch
219 wenn {\em Nebenbedingungen} eingehalten werden müssen.
220
221 Beim Aussuchen von zufälligen Lösungen aus der Population, der
222 \emph{Selektion}, werden gute Lösungen bevorzugt. Wie sehr diese Lösungen
223 bevorzugt werden, hat einen starken Einfluss auf das Verhalten des
224 Algorithmus. Werden gute Lösungen stark bevorzugt, konvergiert der Algorithmus
225 schnell gegen ein (lokales) Optimum. Dieses \textit{Exploitation} (Englisch
226 für „Ausnutzung“) genannte Verhalten sorgt dafür, dass sich der Algorithmus
227 schnell auf eine Lösung festlegt und andere, möglicherweise bessere lokale
228 Optima nicht mehr findet. Werden gute Lösungen hingegen nur wenig bevorzugt,
229 erforscht der Algorithmus den Lösungsraum in viele Richtungen. Dieses
230 \textit{Exploration} (Englisch für „Erforschung“) genannte Verhalten sorgt
231 zwar dafür, dass der Algorithmus langsamer auf ein Optimum zusteuert, dafür
232 findet er aber in der Regel bessere Lösungen.
233
234 Die Parameter evolutionärer Algorithmen so einzustellen, dass sich ein guter
235 Mittelweg zwischen den beiden Extremen einstellt, ist eine Aufgabe, die sich
236 nur experimentell lösen lässt. Die genauen Parameter hängen nicht nur vom
237 eigentlichen Algorithmus, sondern auch vom konkreten Problem ab, so dass sich
238 beispielsweise bei der Optimierung von Sortiernetzwerken die Parameter
239 zwischen verschiedenen Leitungszahlen stark unterscheiden.
240
241 \begin{itemize}
242 \item Unter einem "`Evolutionären Algorithmus"' versteht man $\ldots$
243 \item Da die Sortiereigenschaft zu überprüfen NP-schwer ist, ist die
244 Mutation \textit{(vermutlich)} nicht (effizient) möglich.
245 \end{itemize}
246
247 \newpage
248 \section{Bekannte konstruktive Sortiernetzwerke}
249 \label{sect:konstruktive_netzwerke}
250
251 Übersicht über bekannte konstruktive Sortiernetzwerke.
252
253 \subsection{Das Odd-Even-Transpositionsort-Netzwerk}
254 \label{sect:odd_even_transpositionsort}
255
256 Das Sortiernetzwerk {\em Odd-Even-Transpositionsort} (OET) ist eines der
257 einfachsten Sortiernetzwerke. Es besteht aus $n$~{\em Schichten}, die jede
258 "`Leitung"' abwechselnd mit den benachbarten Leitungen verbindet.
259 Abbildung~\ref{fig:odd-even-transposition-08} zeigt das OET-Netzwerk für
260 ${n = 8}$ Leitungen.
261
262 \begin{figure}
263   \begin{center}
264     \input{images/oe-transposition-8.tex}
265   \end{center}
266   \caption{Das \emph{Odd-Even-Transpositionsort}-Netzwerk mit acht Eingängen.}
267   \label{fig:odd-even-transposition-08}
268 \end{figure}
269
270 Dass das Odd-Even-Transporitionsort-Netzwerk tatsächlich jede beliegibe
271 Eingabe sortiert ist nicht offensichtlich. Leicht zu sehen ist jedoch, dass
272 sowohl das Minimum als auch das Maximum durch das im Netzwerk enthaltene
273 Treppenmuster auf die unterste beziehungsweise oberste Leitung gelangt. Beim
274 Odd-Even-Transporitionsort-Netzwerk mit drei Eingängen,
275 $\operatorname{OET}(3)$, ist die Ausgabe folglich sortiert.
276
277 Die Sortiereigenschaft größerer OET-Netzwerke lässt sich rekursiv beweisen,
278 indem man $\operatorname{OET}(n)$ auf $\operatorname{OET}(n-1)$ durch
279 Herausschneiden einer Leitung reduziert. In
280 Abschnitt~\ref{sect:leitungen_entfernen} wird das Vorgehen im Detail
281 beschrieben, Abbildung~\ref{fig:oe-transposition-cut} zeigt das
282 Herausschneiden einer Leitung aus $\operatorname{OET}(8)$.
283
284 Das Odd-Even-Transporitionsort-Netzwerk ist weder in Bezug auf die Anzahl der
285 Komparatoren noch in Bezug auf die Anzahl der Schichten, in denen sich die
286 Komparatoren anordnen lassen, effizient. Es benötigt
287 ${\frac12 n (n-1)} = \mathcal{O}(n^2)$~Komparatoren, die in $n$~Schichten
288 angeordnet sind. Andere Sortiernetzwerke benötigen deutlich weniger
289 Komparatoren, beispielsweise $\mathcal{O}(n (\log n)^2)$, die in weniger
290 Schichten, zum Beispiel $\mathcal{O}(\log n)$, angeordnet sind.
291
292 Das Interessante am OET-Netzwerk ist seine einfache Konstruktion. Einige der
293 folgenden Algorithmen benötigen ein möglichst einfaches Sortiernetzwerk als
294 Starteingabe, auf dessen Basis sie versuchen optimierte Sortiernetzwerke zu
295 finden. Häufig dient $\operatorname{OET}(n)$ als Eingabe für diese
296 Algorithmen.
297
298 \subsection{Das bitone Mergesort-Netzwerk}
299
300 Das \emph{bitone Mergesort}-Netzwerk ($\operatorname{BS}(n)$) ist ein
301 Sortiernetzwerk, das 1968 von \emph{Kenneth~E. Batcher} in~\cite{B1968}
302 veröffentlicht wurde. Es ist deutlich effizienter als das
303 Odd-Even-Transposi\-tionsort-Netzwerk -- sowohl in Bezug auf die Anzahl der
304 Komparatoren als auch bezüglich der benötigten Zeit, also der Anzahl der
305 Schichten.
306
307 Das Sortiernetzwerk basiert auf einem Komparatornetzwerk, welches zwei
308 sortierte Listen zusammenfügen (englisch: \textit{to~merge}) kann. Dieser
309 \emph{„bitoner Mischer“} (englisch: \textit{bitonic merger}) genannte Baustein
310 verleiht dem Sortiernetzwerk seinen Namen.
311
312 Da das Sortiernetzwerk rekursiv definiert ist, betrachten wir hier nur die
313 Instanzen des Netzwerks, deren Leitungszahl $n = 2^t$ eine Zweierpotenz ist.
314 Es ist jedoch möglich das Sortiernetzwerk für beliebige~$n$ zu erzeugen.
315
316 \subsubsection{Der bitone Mischer}\label{sect:der_bitone_mischer}
317
318 Das \emph{bitone Mergesort-Netzwerk} basiert auf dem sogenannten \emph{bitonen
319 Mischer} $\operatorname{BM}(n)$, einem Kom\-parator-Netzwerk, das eine beliebige
320 \emph{bitone Folge} in eine sortierte Listen umordnen kann. Eine \emph{bitone
321 Folge} ist eine monoton steigende Folge gefolgt von einer monoton absteigenden
322 Folge, oder ein zyklischer Shift davon. Abbildung~\ref{fig:beispiel-biton}
323 zeigt die vier prinzipiellen Möglichkeiten die durch zyklische Shifts
324 entstehen können. Die wichtigsten Varianten für das \emph{bitone
325 Mergesort-Netzwerk} zeigen die Abbildungen~\ref{fig:beispiel-biton-0}
326 und~\ref{fig:beispiel-biton-1}. Sie erhält man, wenn man eine aufsteigend und
327 eine absteigend sortierte Liste aneinanderhängt. Bei den anderen beiden Formen
328 ist wichtig zu beachten, dass das letzte Element nicht größer
329 (Abbildung~\ref{fig:beispiel-biton-2}) bzw. kleiner
330 (Abbildung~\ref{fig:beispiel-biton-3}) als das erste Element der Folge sein
331 darf.
332
333 \begin{figure}
334   \centering
335   \subfigure[aufsteigend, absteigend]{\input{images/beispiel-biton-0.tex}\label{fig:beispiel-biton-0}}
336   \subfigure[absteigend, aufsteigend]{\input{images/beispiel-biton-1.tex}\label{fig:beispiel-biton-1}}
337   \subfigure[aufsteigend, absteigend, aufsteigend]{\input{images/beispiel-biton-2.tex}\label{fig:beispiel-biton-2}}
338   \subfigure[absteigend, aufsteigend, absteigend]{\input{images/beispiel-biton-3.tex}\label{fig:beispiel-biton-3}}
339   \caption{Beispiele bitoner Folgen.}
340   \label{fig:beispiel-biton}
341 \end{figure}
342
343 \begin{figure}
344   \centering
345   \subfigure[normal]{\input{images/bitonic-merge.tex}\label{fig:bitonic-merge-normal}}
346   \qquad
347   \subfigure[trichter]{\input{images/bitonic-merge-trichter.tex}\label{fig:bitonic-merge-tricheter}}
348   \caption{Schematischer Aufbau des bitonen Mischers: Jedes Element der
349   aufsteigenden Folge $u_0, u_1, \ldots$ wird mit dem entsprechenden Element
350   der absteigend sortierten Folge $v_0, v_1, \ldots$ verglichen. Die beiden
351   resultierenden Teilfolgen sind wiederum biton.}
352   \label{fig:bitonic-merge-schema}
353 \end{figure}
354
355 Der Mischer funktioniert folgendermaßen: Gegeben sind zwei Folgen mit je
356 ${m = \frac{n}{2}}$ Elementen, $U = \left(u_0, u_1, \ldots, u_{m-1}\right)$ und
357 $V = \left(v_0, v_1, \ldots, v_{m-1}\right)$. Die Folge $U$ sei aufsteigend
358 sortiert, die Folge $V$ sei absteigend sortiert:
359 \begin{eqnarray}
360  u_0 \leqq u_1 \leqq &\ldots& \leqq u_{m-1} \\
361  v_0 \geqq v_1 \geqq &\ldots& \geqq v_{m-1}
362 \end{eqnarray}
363 Im ersten Schritt werden nun jeweils die Elemente an den gleichen relativen
364 Positionen verglichen und ggf. vertauscht:
365 \begin{equation}
366 u_i \longleftrightarrow v_i, \quad 0 \leqq i < m
367 \end{equation}
368 Sei $j \in \{0 \ldots m\}$ der Index der ersten Elemente $u_j$ und $v_j$, die
369 durch den gemeinsamen Komparator vertauscht werden. Unter der Annahme, dass
370 Elemente nur vertauscht werden wenn, sie ungleich sind, muss ${u_j > v_j}$
371 gelten. Mit $u_j \leqq u_{j+1}$ und $v_j \geqq v_{j+1}$ folgt daraus $u_{j+1}
372 > v_{j+1}$. Es werden also alle Elemente $u_k$ und $v_k$ mit $k \geqq j$
373 vertauscht. $j = m$ bezeichnet den Fall, in dem das größte Element der
374 "`linken"' Folge, $u_{m-1}$, kleiner ist als das kleinste Element der
375 "`rechten"' Folge, $v_{m-1}$. Daraus folgt, dass das Resultat in zwei bitone
376 Folgen aufteilen lässt: Eine aufsteigende~/ absteigende Folge und eine
377 absteigende~/ aufsteigende Folge. Abbildung~\ref{fig:bitonic-merge-normal}
378 zeigt die Situationen vor und nach diesem Schritt des Mischers.
379
380 Um die Folge vollständig zu sortieren, müssen anschließend die beiden
381 resultierenden bitonen Folgen sortiert werden. Die geschieht ebenfalls
382 mithilfe des bitonen Mischers, mit zwei Instanzen von
383 $\operatorname{BM}(\frac{n}{2})$. Diese rekursive Definition endet mit dem
384 bitonen Mischer mit zwei Leitungen, $\operatorname{BM}(2)$, der als
385 Komparator-Netzwerk mit einem Komparator zwischen den beiden Leitungen
386 definiert ist.
387
388 Der bitonen Mischer kann auch zwei aufsteigende Folgen sortieren. Dazu ist
389 lediglich eine etwas modifizierte Vergleichs-Kaskade im ersten Schritt
390 notwendig. Die folgenden, kleineren Mischer erhalten als Eingabe wieder eine
391 „echte“ bitone Folge. Abbildung~\ref{fig:bitonic-merge-tricheter} zeigt das
392 Schema des bitonen Mischers für zwei aufsteigend sortierte Foglen. Durch das
393 Umdrehen einer Folge verändert sich das Muster der Komparatoren ein wenig:
394 Statt an eine Treppe erinnert das Muster nun an einen Trichter.
395
396 Da sich die Anzahl der Leitungen in jedem Rekursionsschritt halbiert, endet
397 die Rekursion nach $\log(n)$~Schritten. In jedem Rekursionsschritt werden
398 $\frac{n}{2}$~Komparatoren eingefügt, so dass der gesamte Mischer aus
399 $\frac{1}{2} n \log(n) = \mathcal{O}\left(n \log(n)\right)$~Komparatoren
400 besteht, die in $\log(n)$~Schichten angeordnet werden können.
401
402 \subsubsection{Das bitone Mergesort-Netzwerk}
403
404 Ebenso wie der bitone Mischer $\operatorname{BM}(n)$ ist auch das \emph{bitone
405 Mergesort-Netzwerk} $\operatorname{BS}(n)$ rekursiv definiert. Es setzt sich
406 zusammen aus zwei Instanzen des bitonen Mergesort-Netzwerks halber Größe,
407 $\operatorname{BS}(\frac{n}{2})$, für je die Hälfte der Eingänge, sowie dem
408 bitonen Mischer für $n$~Leitungen, $\operatorname{BM}(n)$. Das Rekursionsende
409 ist das bitone Mergesort-Netzwerk mit nur einer Leitung,
410 $\operatorname{BS}(1)$, welches als leeres Komparatornetzwerk definiert ist. 
411 Entsprechend sind die Komparatornetzwerke $\operatorname{BM}(2)$ und
412 $\operatorname{BS}(2)$ identisch.
413
414 Bei der Konstruktion kommt die trichterförmige Anordnung der Komparatoren
415 (Abbildung~\ref{fig:bitonic-merge-tricheter}) gelegen, weil so die beiden
416 rekursiven Sortiernetzwerke in die gleiche Richtung sortieren können und so
417 alle Komparatoren in die gleiche Richtung zeigen.
418
419 \begin{figure}
420   \begin{center}
421   \input{images/batcher-8.tex}
422   \end{center}
423   \caption{$\operatorname{BS}(8)$, Batchers {\em bitones Mergesort-Netzwerk}
424   für acht Eingänge. Markiert sind die beiden Instanzen von
425   $\operatorname{BS}(4)$ (rot), die beiden bitonen
426   Mischer~$\operatorname{BM}(4)$ (blau) und die Komparatoren, die im letzten
427   rekursiven Schritt hinzugefügt wurden (grün).}
428   \label{fig:bitonic-08}
429 \end{figure}
430
431 Das konkrete Netzwerk~$\operatorname{BS}(8)$ ist in
432 Abbildung~\ref{fig:bitonic-08} zu sehen. Eingezeichnet sind ebenfalls die
433 beiden Instanzen des Netzwerks~$\operatorname{BS}(4)$ (rot) sowie der bitone
434 Mischer~$\operatorname{BM}(8)$ (blau). Die trichterförmige Komparator-Kaskade,
435 die die bitone Eingabefolge in zwei bitone Ausgabefolgen transformiert, ist
436 grün hinterlegt.
437
438 Das \emph{bitone Mergesort-Netzwerk} $\operatorname{BS}(8)$ besteht aus
439 $\frac{1}{4} n \log(n) \log(n+1) = \mathcal{O}\left(n (log (n))^2\right)$
440 Komparatoren, die in $\frac{1}{2} \log(n) \log(n+1) = \mathcal{O}(\log(n))$
441 Schichten angeordnet sind.
442
443 %\begin{figure}
444 %\begin{center}
445 %\includegraphics[viewport=115 491 372 782,width=7.5cm]{images/sn-rekursiver-aufbau.pdf}
446 %\end{center}
447 %\caption{Rekursiver Aufbau von $S(n)$: Es besteht aus zwei Instanzen von
448 %$S(n/2)$ und dem Mischer $M(n)$.}
449 %\label{fig:bms_rekursiver_aufbau}
450 %\end{figure}
451
452 \subsection{Das Odd-Even-Mergesort-Netzwerk}
453
454 Obwohl der Name ähnlich klingt, haben das \emph{Odd-Even-Mergesort-Netzwerk}
455 (OES) und das \emph{Odd-Even-Transpositionsort-Netzwerk} (siehe
456 Abschnitt~\ref{sect:odd_even_transpositionsort}) wenig gemein. Vielmehr ist
457 OES dem \emph{bitonen Mergesort-Netzwerk}, das im vorherigen Abschnitt
458 vorgestellt wurde, ähnlich: Auch dieses Sortiernetzwerk ist von
459 \textit{Kenneth~E. Batcher} gefunden worden und ist ebenfalls in~\cite{B1968}
460 beschrieben und initial analysiert worden. Eine weitere Gemeinsamkeit besteht
461 darin, dass es ebenfalls rekursiv durch einen Mischer definiert ist.
462
463 \subsubsection{Der Odd-Even-Mischer}\label{sect:der_odd_even_mischer}
464
465 Der \emph{Odd-Even-Mischer} $\operatorname{OEM}(n,m)$ ist ein
466 Komperatornetzwerk, dass zwei sortierte Folgen mit $n$ beziehungsweise $m$
467 Elementen zu einer sortierten Ausgabefolge mit $N = n+m$~Elementen
468 zusammenfügen kann. Dabei kommt es mit weniger Vergleichen aus als der
469 \emph{bitone Mischer}, der im Abschnitt~\ref{sect:der_bitone_mischer}
470 vorgestellt wurde. Allerdings benötigt der \emph{Odd-Even-Mischer} unter
471 Umständen mehr Schichten als der \emph{bitone Mischer}.~\cite{KNUTH}
472
473 Der \emph{Odd-Even-Mischer} selbst ist ebenfalls rekursiv aufgebaut: Die
474 Eingabe für den Mischer mit $N = n + m$ Leitungen besteht aus den beiden
475 sortierten Folgen $U = \left(u_0, u_1, \ldots, u_{n-1}\right)$ und
476 $V = \left(v_0, v_1, \ldots, v_{m-1}\right)$. Die gesamte Eingabe sei
477 $W = \left(w_0, w_1, \ldots, w_{N-1}\right)$ mit:
478 \begin{equation}
479 w_i = \left\{ \begin{array}{ll}
480         u_i,     & i < n \\
481         v_{i-n}, & i \geqq n
482       \end{array} \right.,
483       \quad 0 \leqq i < N
484 \end{equation}
485
486 \begin{figure}
487   \begin{center}
488   \input{images/oe-merge.tex}
489   \end{center}
490   \caption{Schematischer Aufbau des {\em Odd-Even} Mischers. Im Vergleich zum
491   bitonen Mischer für Acht kommt dieses Schema mit einem Komparator weniger
492   aus. Der Effekt wird duch den rekursiven Aufbau noch verstärkt.}
493   \label{fig:oe-merge}
494 \end{figure}
495
496 Diese werden in insgesamt vier sortierte Folgen aufgeteilt, je eine Liste der
497 geraden Indizes und je eine Liste der ungeraden Indizes.
498 \begin{eqnarray}
499   U_{\textrm{gerade}}   &=& \left(u_0, u_2, u_4, \ldots\right) \\
500   U_{\textrm{ungerade}} &=& \left(u_1, u_3, u_5, \ldots\right) \\
501   V_{\textrm{gerade}}   &=& \left(v_0, v_2, u_4, \ldots\right) \\
502   V_{\textrm{ungerade}} &=& \left(v_1, v_3, u_5, \ldots\right)
503 \end{eqnarray}
504
505 Die geraden Folgen $U_{\textrm{gerade}}$ und $V_{\textrm{gerade}}$ bzw. die
506 ungeraden Folgen $U_{\textrm{ungerade}}$ und $V_{\textrm{ungerade}}$ werden
507 rekursiv von kleineren {\em Odd-Even-Mischern} zusammengefügt, so dass sich am
508 Ausgang der Mischer die Folgen
509 \begin{eqnarray}
510   W_{\textrm{gerade}}   &=& \left(w_0, w_2, w_4, \ldots\right) \\
511   W_{\textrm{ungerade}} &=& \left(w_1, w_3, w_5, \ldots\right)
512 \end{eqnarray}
513 ergeben.
514
515 Anschließend werden die Komparatoren zwischen benachbarten Leitungen
516 hinzugefügt,
517 \begin{equation}
518   w_{2i-1} \longleftrightarrow w_{2i}, \quad 1 \leqq i < \frac{N}{2}
519 \end{equation}
520 die die Folge~$W$ sortieren. Den schematischen Aufbau des {\em
521 Odd-Even-Mischers} zeigt Abbildung~\ref{fig:oe-merge}.
522
523 Leider bricht die Rekursion nicht so schön ab, wie das beim {\em bitonen
524 Mischer} der Fall gewesen ist. Insbesondere für ${n = m = 1}$ würde --
525 entsprechend der Konstruktionsvorschrift -- ein leeres Netzwerk entstehen, was
526 offensichtlich nicht korrekt wäre. Die Abbruchbedingungen für den rekursiven
527 Aufbau lauten:
528 \begin{itemize}
529   \item Falls ${n = 0}$ oder ${m = 0}$: Das Netzwerk ist leer.
530   \item Falls ${n = 1}$ und ${m = 1}$: Das Netzwerk besteht aus einem
531   einzelnen Komparator.
532 \end{itemize}
533
534 Dass die resultierende Folge sortiert ist, lässt sich mit dem
535 {\em 0-1-Prinzip} zeigen:
536 Da $U$ und $V$ sortiert sind, ist die Anzahl der Nullen in den geraden
537 Teilfolgen, $U_{\textrm{gerade}}$ bzw. $V_{\textrm{gerade}}$, größer oder
538 gleich der Anzahl der Nullen in den ungeraden Teilfolgen
539 $U_{\textrm{ungerade}}$ bzw. $V_{\textrm{ungerade}}$ --~die Einsen verhalten
540 sich entsprechend umgekehrt. Das trifft demnach auch auf die Folgen
541 $W_{\textrm{gerade}}$ und $W_{\textrm{ungerade}}$ entsprechend zu:
542 \begin{eqnarray}
543   \left|W_{\textrm{gerade}}\right|_0
544   &=& \left|U_{\textrm{gerade}}\right|_0
545     + \left|V_{\textrm{gerade}}\right|_0
546    =  \left\lceil \frac{1}{2} \left|U\right|_0 \right\rceil
547    +  \left\lceil \frac{1}{2} \left|V\right|_0 \right\rceil \\
548   \left|W_{\textrm{ungerade}}\right|_0
549   &=& \left|U_{\textrm{ungerade}}\right|_0
550     + \left|V_{\textrm{ungerade}}\right|_0
551    =  \left\lfloor \frac{1}{2} \left|U\right|_0 \right\rfloor
552    +  \left\lfloor \frac{1}{2} \left|V\right|_0 \right\rfloor
553 \end{eqnarray}
554 Daraus folgt, dass $W_{\textrm{gerade}}$ $0$, $1$ oder $2$ Nullen mehr enthält
555 als $W_{\textrm{ungerade}}$. In den ersten beiden Fällen ist die "`verzahnte"'
556 Ausgabe der beiden kleineren Mischer bereits sortiert. Nur im letzten Fall,
557 wenn $W_{\textrm{gerade}}$ zwei Nullen mehr enthählt als
558 $W_{\textrm{ungerade}}$, muss genau eine Vertauschung stattfinden, um die
559 Ausgabe zu sortieren. Diese wird von den Komparatoren, die benachbarte
560 Leitungen miteinander vergleichen, ausgeführt. Die jeweiligen Situationen sind
561 in Abbildung~\ref{fig:oe-post-recursive} dargestellt.
562
563 \begin{figure}
564   \centering
565   \subfigure[$\left|W_{\textrm{gerade}}\right|_0 - \left|W_{\textrm{ungerade}}\right|_0 = 0$]{\input{images/oe-post-recursive-diff0.tex}}
566   \qquad
567   \subfigure[$\left|W_{\textrm{gerade}}\right|_0 - \left|W_{\textrm{ungerade}}\right|_0 = 1$]{\input{images/oe-post-recursive-diff1.tex}}
568   \qquad
569   \subfigure[$\left|W_{\textrm{gerade}}\right|_0 - \left|W_{\textrm{ungerade}}\right|_0 = 2$]{\input{images/oe-post-recursive-diff2.tex}}
570   \caption{Die drei Situationen, die nach dem Verzahnen der Ausgaben der
571   kleineren {\em Odd-Even-Mischer} entstehen können. Ist die Differenz der
572   Anzahl der Nullen gleich $0$ oder $1$, ist die Folge bereits sortiert. Im
573   letzten Fall stellt einer der Komparatoren sicher, dass das Ergebnis
574   sortiert ist.}
575   \label{fig:oe-post-recursive}
576 \end{figure}
577
578 Da die Teilfolgen $U$ und $V$ in jedem Rekursionsschritt etwa halbiert werden,
579 bricht die Rekursion nach $\mathcal{O}\left(\log (n) + \log (m)\right)$
580 Schritten ab. Die exakte Anzahl der benötigten Rekursionsschritte (und damit
581 Schichten im Mischer-Netzwerk), hängt von der Längeren der beiden
582 Eingabefolgen ab und beträgt $1 + \lceil \log\left(\max(n, m)\right) \rceil$.
583
584 Die Anzahl der Komparatoren $K(n,m)$, die $\operatorname{OEM}(n,m)$ im
585 allgemeinen Fall verwendet, ist Gemäß der rekursiven Definition in
586 Abhängigkeit der Länge der Eingabefolgen, $n$ und $m$:
587 \begin{displaymath}
588   K(n,m) = \left\{ \begin{array}{ll}
589     nm, & \mathrm{falls} \quad nm \leqq 1 \\
590     K\left(\left\lceil \frac{n}{2} \right\rceil, \left\lceil \frac{m}{2} \right\rceil\right)
591     + K\left(\left\lfloor \frac{n}{2} \right\rfloor, \left\lfloor \frac{m}{2} \right\rfloor\right)
592     + \left\lfloor \frac{1}{2} (m + n - 1) \right\rfloor & \mathrm{falls} \quad nm > 1
593   \end{array} \right.
594 \end{displaymath}
595 Leider ist es schwierig, diese allgemeine Formel in einer geschlossenen Form
596 anzugeben. Aus der Anzahl der Rekursionsschritte ist jedoch leicht erkennbar,
597 dass $K(n,m)$ in $\mathcal{O}(N \log (N))$ enthalten ist.
598
599 Für den wichtigen Spezialfall, dass $n = m = 2^{t-1}$, lässt sich die Anzahl
600 der Komparatoren im Vergleich zum \emph{bitonen Mischer} angeben: Der erste
601 Rekursionsschritt der OEM-Konstruktion fügt
602 $\left\lfloor \frac{1}{2} (m + n - 1) \right\rfloor = \frac{N}{2} - 1$
603 Komparatoren ein -- einen Komparator weniger als der \emph{bitone Mischer} in
604 diesem Schritt. Das selbe gilt für die rekursiv verwendeten kleineren Mischer,
605 $\operatorname{OEM}(\frac{n}{2}, \frac{n}{2})$ und so weiter bis
606 einschließlich $\operatorname{OEM}(2, 2)$, von denen es $2, 4, \dots,
607 \frac{N}{4} = 2^{\log(N)-2}$ Instanzen gibt. Insgesamt werden
608 \begin{displaymath}
609   \sum_{i=0}^{\log(N)-2} 2^i = 2^{\log(N) - 1} - 1 = \frac{N}{2} - 1 = n - 1
610 \end{displaymath}
611 Komparatoren eingespart. Damit ergibt sich
612 \begin{displaymath}
613   K\left(n = 2^{t-1}, n = 2^{t-1}\right) = \frac{1}{2} N \log(N) - \frac{N}{2} + 1
614 \end{displaymath}
615 für die Anzahl der Komparatoren, die von $\operatorname{OEM}(N = 2^t)$
616 benötigt werden.
617
618 \subsubsection{Das Odd-Even-Mergesort-Netzwerk}
619
620 Das \emph{Odd-Even-Mergesort-Netzwerk} $\operatorname{OES}(n)$ besteht --~wie
621 das \emph{bitone Mergesort-Netzwerk}~-- rekursiv aus kleineren Varianten von
622 sich selbst und einem abschließenden \emph{Odd-Even-Mischer}. Die
623 effizientesten Sortiernetzwerke in Bezuf auf Komparator- und Schichtzahl
624 entstehen, wenn die Anzahl der Leitungen jeweils halbiert wird. Somit besteht
625 $\operatorname{OES}(n)$ aus
626 $\operatorname{OES}\left(\left\lceil\frac{n}{2}\right\rceil\right)$,
627 $\operatorname{OES}\left(\left\lfloor\frac{n}{2}\right\rfloor\right)$
628 und $\operatorname{OEM}\left(\left\lceil\frac{n}{2}\right\rceil,
629 \left\lfloor\frac{n}{2}\right\rfloor\right)$. Die Rekursion endet mit
630 $\operatorname{OES}(1)$ und $\operatorname{OES}(0)$, die als leere
631 Komparatornetzwerke definiert sind.
632
633 \begin{figure}
634   \begin{center}
635   \input{images/oe-mergesort-8.tex}
636   \end{center}
637   \caption{Das {\em Odd-Even-Mergesort-Netzwerk} für acht Eingänge. Markiert
638   sind die Instanzen von $\operatorname{OES}(4)$ (rot), die beiden
639   \emph{Odd-Even-Mischer} $\operatorname{OEM}(4)$ für gerade und ungerade
640   Leitungen (blau) und die im ersten Rekursionsschritt hinzugefügten
641   Komparatoren zwischen benachbarten Leitungen (grün).}
642   \label{fig:odd-even-mergesort-08}
643 \end{figure}
644
645 In Abbildung~\ref{fig:odd-even-mergesort-08} ist das konkrete Sortiernetzwerk
646 $\operatorname{OES}(8)$ zu sehen. Rot markiert sind die beiden rekursiven
647 Instanzen $\operatorname{OES}(4)$. Die blauen und der grüne Block stellen den
648 \emph{Odd-Even-Mischer} für acht Leitungen dar: Die beiden blauen Blöcke sind
649 die rekursiven Instanzen von $\operatorname{OEM}(4)$, der grüne Block markiert
650 die Komparatoren, die in ersten Rekursionsschritt hinzugefügt werden.
651
652 Im Allgemeinen ist die Anzahl der Komparatoren, die vom
653 \emph{Odd-Even-Mergesort-Netzwerk} verwendet wird, $k(n)$, direkt aus der
654 Definition beziehungsweise der Konstruktionsanleitung abzulesen:
655 \begin{displaymath}
656   k(n) = k\left(\left\lceil\frac{n}{2}\right\rceil\right)
657        + k\left(\left\lfloor\frac{n}{2}\right\rfloor\right)
658        + K\left(\left\lceil\frac{n}{2}\right\rceil, \left\lfloor\frac{n}{2}\right\rfloor\right)
659 \end{displaymath}
660 Eine geschlossene Form dieser Formel ist schon alleine deshalb schwierig, weil
661 sie für $K(n,m)$ schwierig anzugeben ist. Es ist allerdings bekannt, dass
662 $k(n)$ in $\mathcal{O}\left(n \left(\log (n)\right)^2\right)$ enthalten ist.
663
664 Für den wichtigen Spezialfall, dass $n = 2^t$ eine Zweierpotenz ist, kann die
665 Anzahl der Komparatoren wieder explizit angegeben werden. \textit{Kenneth
666 Batcher} zeigt in~\cite{B1968}, dass in diesem Fall
667 \begin{displaymath}
668   k(n = 2^t) = \frac{1}{4} n \left(\log (n)\right)^2 - \frac{1}{4}n\log(n) + n - 1
669 \end{displaymath}
670 gilt.
671
672 % gnuplot:
673 % oem(n,m) = ((n*m) <= 1) ? (n*m) : oem(ceil(.5*n), ceil(.5*m)) + oem(floor(.5*n), floor(.5*m)) + floor(.5*(n+m-1.0))
674 % oem1(n) = oem(ceil(.5*n),floor(.5*n))
675 % oes(n) = (n <= 1.0) ? 0 : oes(ceil(0.5*n)) + oes(floor(0.5*n)) + oem1(n)
676
677 %\begin{itemize}
678 %\item Pairwise sorting-network
679 %\end{itemize}
680
681 \newpage
682 \section{Transformation von Sortiernetzwerken}
683
684 \subsection{Komprimieren}
685
686 \todo{Aus theoretischer Sicht eigentlich eine Trivialität. Rausschmeißen?}
687
688 Komparatoren, die unterschiedliche Leitungen miteinander vergleichen, können
689 gleichzeitig ausgewertet werden, wie bereits in
690 Abschnitt~\ref{sect:einleitung_sortiernetzwerke} beschrieben. Unter
691 \emph{Komprimieren} wird eine (Neu-)Gruppierung in die kleinstmögliche Anzahl
692 von \emph{Schichten} verstanden.
693
694 Diese Anzahl ist insbesondere beim automatisierten Bewerten von
695 Komparatornetzwerken interessant. \dots
696
697 \subsection{Normalisieren}
698
699 \begin{figure}
700   \centering
701   \subfigure[$S(8)$ (nach Konstruktion)]{\input{images/batcher-8-nonstd.tex}\label{fig:bitonic-nonstd}}
702   \subfigure[$S(8)$ (normalisiert)]{\input{images/batcher-8-std.tex}\label{fig:bitonic-std}}
703   \caption{Jedes Sortiernetzwerk kann in ein Standard-Sortiernetzwerk
704   transformiert werden. Gezeigt ist das bitone Sortiernetzwerk nach der
705   intuitiven Konstruktion und die normalisierte Variante.}
706   \label{fig:beispiel_normalisieren}
707 \end{figure}
708
709 Ein \emph{Standard-Sortiernetzwerk} oder \emph{normalisiertes Sortiernetzwerk}
710 ist ein Sortiernetzwerk, dessen Komparatoren alle in die selbe Richtung
711 zeigen. Jedes Sortiernetzwerk kann in eine normaliesierte Variante
712 transformiert werden. Dazu gibt beispielsweise \emph{Knuth} (\todo{Verweis})
713 einen Algorithmus an.
714
715 Abbildung~\ref{fig:beispiel_normalisieren} zeigt das das
716 bitone Sortiernetzwerk in zwei Varianten. Abbildung~\ref{fig:bitonic-nonstd}
717 zeigt das Netzwerk nach der Konstruktionsvorschrift, siehe auch
718 Abbildung~\ref{fig:bitonic-merge-normal}: In den ersten drei Schichten werden
719 die unter und die obere Hälfte gegenläufig sortiert. Das heißt dass nach drei
720 Schritten die eine Hälfte auf- und die andere Hälfte absteigend sortiert ist. 
721 In den Schichten~4 bis~6 folgt der bitone Mischer entsprechend der rekursiven
722 Definition.
723
724 In Abbildung~\ref{fig:bitonic-std} ist die normalisierte Version des bitonen
725 Mergesort-Netzwerks zu sehen. Alle Komparatoren zeigen hier in die gleiche
726 Richtung. Statt dem typischen "`Treppenmuster"' sind abwechselnd das Treppen-
727 und das Trichtermuster zu sehen.
728
729 \subsection{Zwei Netzwerke kombinieren}
730
731 Um Sortiernetzwerke als \emph{Individuen} evolutionärer Algorithmen verwenden
732 zu können, muss es möglich sein, zwei Sortiernetzwerke zu einem neuen
733 Sortiernetzwerk zusammenzufassen.
734
735 Wir haben diese Technik in den vorangegangen Abschnitten bereits verwendet,
736 beispielsweise um zwei \emph{bitone Mergesort-Netzwerke} mit jeweils der
737 halben Leitungszahl, $\operatorname{BS}\left(\frac{n}{2}\right)$, zu einem
738 einzigen Sortiernetzwerk $\operatorname{BS}(n)$ zu kombinieren. Auch das
739 \emph{Odd-Even-Mergesort-Netzwerk} $\operatorname{OES}(n)$ wurde auf diese Art
740 und Weise rekursiv aufgebaut.
741
742 Die vorgestellten \emph{Mischer} erwarten als Eingabe zwei bereits sortierte
743 Folgen. \emph{Wie} diese Folgen sortiert wurden, ist unerheblich. Entsprechend
744 können wir beliebige Sortiernetzwerke einsetzen, um die beiden Eingabefolgen
745 zu sortieren, und die Ausgaben mit einem der beschriebenen Mischer
746 zusammenfügen.
747
748 Beispielsweise kann man die Ausgabe von zwei \emph{bitonen
749 Mergesort-Netzwerken} $\operatorname{BS}(8)$ mit je acht Leitungen mit dem
750 \emph{Odd-Even-Merge} $\operatorname{OEM(8,8)}$ zu einer sortierten
751 Gesamtfolge zusammenfügen. Das resultierende Sortiernetzwerk besitzt
752 73~Komparatoren (zum Vergleich: $\operatorname{BS}(16)$ benötigt
753 80~Komparatoren, $\operatorname{OES}(16)$ nur 63).
754
755 Verbesserungen in der Anzahl der benötigten Komparatoren beziehungsweise der
756 Schichten eines „kleinen“ Sortiernetzwerks übertragen sich direkt auf das
757 resultierende Gesamtnetzwerk. Das \emph{Odd-Even-Mergesort-Netzwerk}
758 $\operatorname{OES}(9)$ benötigt beispielsweise 26~Komparatoren, die in in
759 neun Schichten angeordnet sind. Es sind allerdings Sortiernetzwerke mit neun
760 Eingängen bekannt, die lediglich 25~Komparatoren in sieben Schichten
761 benötigen. Kombiniert man zwei dieser Netzwerke mit dem
762 \emph{Odd-Even-Mischer} erhält man ein Sortiernetzwerk mit 18~Eingängen, das
763 80~Komparatoren in 11~Schichten benötigt -- $\operatorname{OES}(18)$ benötigt
764 82~Komparatoren in 13~Schichten. Damit ist das resultierende Netzwerk so
765 schnell wie das Sortiernetzwerk mit 18~Eingängen, das \textit{Sherenaz~W.
766 Al-Haj Baddar} und \textit{Kenneth~E. Batcher} in ihrer Arbeit „An 11-Step
767 Sorting Network for 18~Elements“~\cite{BB2009} vorstellen, benötigt aber
768 6~Komparatoren weniger.
769
770 % 9   9
771 % 9  18
772 % 9  27
773 % 9  36
774 % 9  45
775 % 8  53
776 % 8  61
777 % 7  68
778 % 7  75
779 % 6  81
780 % 5  86
781
782 Das Zusammenfassen von zwei Sortiernetzwerken durch Hintereinanderausführung
783 ist nicht sinnvoll: Da die Ausgabe des ersten Sortiernetzwerks bereits
784 sortiert ist, ist das zweite Sortiernetzwerk überflüssig. Eine
785 Aneinanderreihung der Art „die ersten $x$~Schichten des einen, dann die
786 letzten $y$~Schichten des anderen Sortiernetzwerks“ zerstören im Allgemeinen
787 die Sortiereigenschaft. Die Sortiereigenschaft des resultierenden
788 Komparatornetzwerks müsste überprüft werden, was nach heutigem Wissensstand
789 nur mit exponentiellem Aufwand möglich ist.
790
791 %\begin{itemize}
792 %\item Mit dem Bitonic-Merge
793 %\item Mit dem Odd-Even-Merge
794 %\item Nach dem Pairwise sorting-network Schema.
795 %\end{itemize}
796
797 \subsection{Leitungen entfernen}\label{sect:leitungen_entfernen}
798
799 Im vorherigen Abschnitt haben wir gesehen, dass es mithilfe von
800 \emph{Mischern} möglich ist, aus zwei Sortiernetzwerken mit je $n$~Eingängen
801 ein neues Sortiernetzwerk mit $2n$~Eingängen zu erzeugen. Für einen
802 beabsichtigen \emph{evolutionären Algorithmus} ist es jedoch notwendig, dass
803 sich die Anzahl der Eingänge nicht verändert. Das heißt, dass wir wieder ein
804 Sortiernetzwerk mit $n$~Eingängen erhalten müssen.
805
806 Man kann ein gegebenes Sortiernetzwerk mit $n$~Eingängen auf ein
807 Sortiernetzwerk mit ${n-1}$~Leitungen verkleinern, indem man eine Leitung
808 „eliminiert“. Dazu nehmen wir an, dass das Minimum oder das Maximum an einem
809 bestimmten Eingang anliegt. Der Weg, den das Minimum beziehungsweise das Maxim
810 durch das Sortiernetzwerk nimmt, ist eindeutig bestimmt und endet an einem der
811 „Ränder“, also auf der Leitung mit dem höchsten oder dem niedrigsten Index.
812 Insbesondere ist bekannt, welche Komparatoren „berührt“ werden und welche
813 dafür sorgen, dass der Wert die Leitung gewechselt, da das Minimum jeden
814 Vergleich „verliert“ und das Maximum jeden Vergleich „gewinnt“. Die
815 Abbildung~\ref{fig:oe-transposition-cut0} zeigt den Weg eines Maximums durch
816 das {\em Odd-Even-Transpositionsort-Netzwerk}.
817
818 \begin{figure}
819   \centering
820   \subfigure[foo]{\input{images/oe-transposition-cut0.tex}\label{fig:oe-transposition-cut0}}
821   \subfigure[bar]{\input{images/oe-transposition-cut1.tex}\label{fig:oe-transposition-cut1}}
822   \subfigure[baz]{\input{images/oe-transposition-cut2.tex}\label{fig:oe-transposition-cut2}}
823   \subfigure[qux]{\input{images/oe-transposition-cut3.tex}\label{fig:oe-transposition-cut3}}
824   \caption{Eine Leitung wird aus dem
825   \emph{Odd-Even-Transpositionsort}-Netzwerk $\operatorname{OET}(8)$ entfernt:
826   Auf der rot markierten Leitung wird $\infty$ angelegt. Da der Wert bei jedem
827   Komparator am unteren Ende herauskommt, ist der Pfad fest vorgegeben. Da die
828   restlichen Werte trotzdem noch richtig sortiert werden müssen, kann dieser
829   Pfad herausgetrennt werden. In der letzten Abbildung ist
830   $\operatorname{OET}(7)$ markiert.}
831   \label{fig:oe-transposition-cut}
832 \end{figure}
833
834 Im nächsten Schritt werden alle beteiligten Komparatoren gelöscht bzw.
835 ersetzt: Komparatoren, die {\em nicht} zu einem Wechsel der Leitung geführt
836 haben, werden ersatzlos gelöscht. Diese Komparatoren sind in
837 Abbildung~\ref{fig:oe-transposition-cut0} grün markiert. Die Komparatoren, die
838 zum Wechsel der Leitung geführt haben, werden durch sich kreuzende Leitungen
839 ersetzt. Das Resultat ist eine Leitung, auf der das Minimum beziehungsweise
840 das Maximum angenommen wird, die an unterster oder oberster Stelle endet und
841 auf die keine Komparatoren mehr berührt
842 (Abbildung~\ref{fig:oe-transposition-cut1}).
843
844 Die Werte auf den verbleibenden $(n-1)$~Leitungen müssen vom restlichen
845 Komparatornetzwerk immernoch sortiert werden: Wir haben lediglich die Position
846 des Minimums oder des Maximums angenommen. Ein Sortiernetzwerk muss die
847 Eingabe sortieren, egal auf welcher Leitung das Minimum~/ das Maximum liegt.
848 Wir haben lediglich angefangen, das Sortiernetzwerk unter diese Annahme
849 auszuwerten -- über die verbleibenden Eingänge haben wir keine Aussage
850 getroffen. Entsprechend müssen die verbleibenden Ausgänge eine sortierte Liste
851 mit $(n-1)$~Elementen darstellen.
852
853 Wenn wir die Minimum- beziehungsweise Maximum-Leitung entfernen
854 (Abbildung~\ref{fig:oe-transposition-cut2}), bleibt das Sortiernetzwerk für
855 $(n-1)$~Leitungen übrig. Je nachdem, ob auf einer Leitung ein Minimum oder ein
856 Maximum angenommen wird, bezeichnen wir das eliminieren einer Leitung als
857 \emph{Minimum-Schnitt} beziehungsweise \emph{Maximum-Schnitt}.
858
859 Die letzte Abbildung, \ref{fig:oe-transposition-cut3}, zeigt das
860 Sortiernetzwerk wieder mit den üblichen geraden Leitungen und die rot
861 markierten Komparatoren wurden verschoben, so dass sich eine kompaktere
862 Darstellung ergibt. Ausserdem ist das
863 {\em Odd-Even-Transpositionsort-Netzwerk} für sieben Werte markiert. Der
864 zusätzliche Komparator vor dem $\textrm{OET}(7)$ hat keinen Einfluss auf die
865 Ausgabe und kann entfernt werden.
866
867 \subsubsection{Anzahl möglicher und unterschiedlicher Schnittmuster}
868 \label{sect:anzahl_schnittmuster}
869
870 Der Eliminierungsschritt kann iterativ angewandt werden, um aus einem
871 Sortiernetzwerk mit $n$~Ein\-gängen Sortiernetzwerke mit $n-1$, $n-2$,
872 $n-3$,~\dots Eingängen zu erzeugen. Insbesondere können auf diese Art und
873 Weise einen Sortiernetzwerke mit $2n$~Eingängen wieder auf Sortiernetzwerke
874 mit $n$~Eingängen reduziert werden. $k$~Minimum- und Maximum-Schnitte, die
875 nacheinander angewendet ein $n$-Sortiernetzwerk auf ein
876 ${(n-k)}$-Sortiernetz\-werk reduzieren, bezeichnen wir als
877 \emph{$k$-Schnittmuster}.
878
879 Zwei Schnittmuster heißen \emph{äquivalent} bezüglich~$S$, wenn ihre Anwendung
880 auf das Sortiernetzwerk~$S$ das selbe Ergebnis liefert. Ansonsten heißen die
881 Schnittmuster \emph{unterschiedlich} bezüglich~$S$. 
882
883 Bei einem Sortiernetzwerk mit $n$~Eingängen gibt es $2n$~Möglichkeiten eine
884 Leitung zu entfernen: Auf jeder der $n$~Leitungen kann sowohl das Minimum als
885 auch das Maximum angenommen werden. Wendet man das Verfahren iterativ an, um
886 ein $n$-Sortiernetzwerk auf ein ${(n-k)}$-Sortiernetzwerk zu reduzieren,
887 ergeben sich insgesamt
888 \begin{equation}\label{eqn:anzahl_schnittmuster}
889   \prod_{i=n}^{1+n-k} 2i = 2^k \frac{n!}{(n-k)!}
890   \quad (n > m)
891 \end{equation}
892 \emph{mögliche} Schnittmuster. Diese Schnittmuster sind nicht alle
893 unterschiedlich. Legt man beispielsweise das Minimum auf die unterste Leitung
894 und das Maximum auf die oberste Leitung eines Standard-Sortiernetzwerks,
895 führen beide Reihenfolgen zum selben Ergebnis.
896
897 \textit{Moritz Mühlenthaler} zeigt in seiner Arbeit (\todo{Referenz}), dass es
898 möglich ist, mehrere Eingänge gleichzeitig mit Minimum beziehungsweise Maximum
899 vorzubelegen. Dadurch wird die Anzahl der möglichen Schnittmuster reduziert,
900 die Menge der so erzeugbaren Sortiernetzwerke bleibt aber unverändert. Die
901 Anzahl der möglichen Schnittmuster setzt sich zusammen aus der Anzahl von
902 Möglichkeiten, $k$~Leitungen aus $n$~Leitungen auszuwählen, und die möglichen
903 Minimum-~/ Maximum-Muster. Damit ergibt sich folgende Formel für die Anzahl
904 der möglichen Schnittmuster:
905 \begin{displaymath}
906   2^k \cdot \left( \begin{array}{c} n \\ k \end{array} \right)
907   = 2^{k} \cdot \frac{n!}{k! (n-k)!}
908   = 2^{k} \cdot \frac{n!}{(n-k)!} \cdot \frac{1}{k!}
909   \quad (1 \leqq k < n)
910 \end{displaymath}
911
912 Die Anzahl der möglichen Schnittmuster wird mit der Anzahl der zu entfernenden
913 Leitungen sehr schnell sehr groß. Um ein Sortiernetzwerk mit 32~Eingängen auf
914 ein Sortiernetzwerk mit 16~Eingängen zu reduzieren, ist ein Schmittmuster mit
915 16~Schnitten notwendig, für das es bereits etwa ${3,939 \cdot 10^{13}}$
916 Möglichkeiten gibt. Ein Ausprobieren aller Möglichkeiten ist für große
917 Netzwerke nicht oder nur unter erheblichem Ressourcenaufwand möglich.
918
919 Die Anzahl der \emph{unterschiedlichen} Schnittmuster ist allerdings kleiner
920 als die Anzahl der möglichen Schnittmuster. Für jeden Komparator auf der
921 ersten Stufe gibt es neun verschiedene Eingangskonfigurationen: Für beide
922 Eingänge gibt es drei mögliche Eingangswerte, Minimum, Maximum und
923 unspezifiziert. Es gibt drei Konfigurationen, bei denen an beiden Eingängen
924 der gleiche Wert angelegt wird, und sechs Konfigurationen, bei denen sich die
925 Werte unterscheiden.
926
927 Bei diesen letzten sechs Konfigurationen werden je zwei auf das selbe
928 Ausgangmuster abgebildet, weil die Position des Minimums beziehungsweise des
929 Maximums durch den Komparator vorgegeben wird. Das heißt, dass die neun
930 unterschiedlichen Eingangsmuster nur sechs unterschiedliche Ausgangsmuster
931 erzeugen. In der zweiten und allen folgenden Schichten kann man diesen
932 Unterschied nicht mehr erkennen. In allen sechs Fällen, in denen sich die
933 Eingänge unterscheiden, wird anschließend der Komparator entfernt, so dass
934 sich die Resultate auch in der ersten Schicht nicht unterscheiden.
935
936 \begin{figure}
937   \begin{center}
938     \includegraphics[viewport=0 0 360 216,width=15cm]{images/count-cuts-16.pdf}
939   \end{center}
940   \caption{Anzahl der \emph{unterschiedlichen} Sortiernetzwerke, die durch
941   8-Schnittmuster aus $\operatorname{OES}(16)$, $\operatorname{BS}(16)$ und
942   $\operatorname{PS}(16)$ hervorgegangen sind. Die Anzahl der
943   unterschiedlichen Netzwerke nach $10^6$~Iterationen ist 3519 für das
944   \emph{Odd-Even-Mergesort-Netzwerk}, 4973 für das \emph{bitone
945   Mergesort-Netzwerk} und 18764 für das \emph{Pairwise-Sorting-Netzwerk}.}
946   \label{fig:count-cuts-16}
947 \end{figure}
948
949 Alleine durch Betrachten der ersten Schicht von Komparatoren konnte die Anzahl
950 der \emph{unterschiedlichen} Schnittmuster auf höchstens $\frac{2}{3}$ der
951 \emph{möglichen} Schnittmuster reduziert werden. Um die Anzahl der
952 \emph{unterschiedlichen} Schnittmuster experimentell zu ermitteln, wurden je
953 eine Million zufällige 8-Schnittmuster auf die 16-Sortiernetzwerke
954 $\operatorname{OES}(16)$, $\operatorname{BS}(16)$ und $\operatorname{PS}(16)$
955 angewandt. Anschließend wurde mithilfe einer Hashtabelle überprüft, ob das
956 resultierende Sortiernetzwerk schon von einem \emph{äquivalenten}
957 Schnittmuster erzeugt wurde. Falls das Sortiernetzwerk noch nicht in der
958 Hashtabelle enthalten war, wurde der Zähler für unterschiedliche Schnittmuster
959 erhöht und das Sortiernetzwerk eingefügt.
960
961 Abbildung~\ref{fig:count-cuts-16} trägt die Anzahl der
962 \emph{unterschiedlichen} Schnittmuster gegen die Anzahl der zufälligen
963 Schnittmuster auf. Klar zu sehen ist, dass sich die Anzahl der erzeugten
964 Sortiernetzwerke nach $500.000$~Iterationen nur noch gering verändert und der
965 Wert nach $1.000.000$~Iterationen allem Anschein nach dem Endwert schon sehr
966 nahe ist.
967
968 Die Anzahl der möglichen 8-Schnittmuster ist entsprechend der
969 Formel~\ref{eqn:anzahl_schnittmuster} 3.294.720. Diese möglichen Schnittmuster
970 führen aber nur zu wenigen \emph{unterschiedlichen} Sortiernetzwerken: 3519
971 ($\approx 0,1\%$) im Fall des \emph{Odd-Even-Mergesort-Netzwerks}, 4973
972 ($\approx 0,15\%$) beim \emph{bitonen Mergesort-Netzwerk} und 18764 ($\approx
973 0,57\%$) beim \emph{Pairwise-Sorting-Netzwerk}. Zwar ist es möglich, dass mehr
974 Iterationen die Anzahl der unterschiedlichen Schnittmuster noch wachsen lässt.
975 Die Graphen in Abbildung~\ref{fig:count-cuts-16} geben jedoch Grund zu der
976 Annahme, dass die Anzahl dieser zusätzlichen, unterschiedlichen Schnittmuster
977 vernachlässigbar klein ist.
978
979 Bedingt durch die sehr große Anzahl möglicher Schnittmuster ist dieses
980 Experiment für größere Sortiernetzwerke leider nicht sinnvoll durchführbar.
981 Die Hashtabelle benötigt mehr Arbeitsspeicher als in derzeitigen Rechnern
982 vorhanden ist, bevor ein entsprechender Graph den linearen Bereich für
983 „kleine“ x-Werte verlässt.
984
985 Um die Anzahl der unterschiedlichen Schnittmuster trotzdem abschätzen zu
986 können, kann man sich einer stochastischen Methode bedienen, der sogenannten
987 \emph{Monte-Carlo-Methode}. Zunächst generiert man eine Menge~$S$ von
988 $k$~unterschiedlichen Schnittmustern. Anschließend werden $n$~Schnittmuster
989 zufällig erzeugt und überprüft, ob sie sich in der Menge~$S$ enthalten sind.
990 Unter der Annahme, dass das Verhältnis der zufälligen Schnittmuster, die in
991 $S$ enthalten sind, und $n$ dem Verhältnis von $k$ und der Anzahl der
992 unterschiedlichen Schnittmuster ingesamt entspricht, kann man die Anzahl der
993 unterschiedlichen Schnittmuster abschätzen.
994
995 \begin{figure}
996   \begin{center}
997     \includegraphics[viewport=0 0 425 262,width=15cm]{images/collisions-10000-1000000-32.pdf}
998   \end{center}
999   \caption{Abschnätzung der unterschiedlichen Schnittmuster mit der
1000   \emph{Monte-Carlo-Methode} für $\operatorname{OES}(32)$ und
1001   $\operatorname{BS}(32)$.}
1002   \label{fig:collisions-10000-1000000-32}
1003 \end{figure}
1004
1005 In Abbildung~\ref{fig:collisions-10000-1000000-32} ist das Ergebnis des
1006 Monte-Carlo-Algorithmus für 16-Schnittmuster zu sehen, die auf
1007 $\operatorname{OES}(32)$ und $\operatorname{BS}(32)$ angewandt wurden: Von
1008 jedem Sortiernetzwerk wurden zunächst eine Menge~$S$ von 10.000
1009 \emph{unterschiedlichen} Schnittmustern erzeugt. Anschließend wurden 1.000.000
1010 zufällige Schnittmuster erzeugt und der Anteil der zufälligen Schnittmuster,
1011 die \emph{äquivalent} zu einem in~$S$ enthalten Schnittmuster sind, berechnet.
1012 Für $\operatorname{OES}(32)$ war dieser Anteil etwa $0,19 \%$, für
1013 $\operatorname{BS}(32)$ etwa $0,29 \%$. Das ergibt eine Abschätzung von $5,2
1014 \cdot 10^6$ unterschiedlichen Schnittmustern für $\operatorname{OES}(32)$ und
1015 $3,4 \cdot 10^6$ für $\operatorname{BS}(32)$.
1016
1017 \begin{figure}
1018   \begin{center}
1019     \includegraphics[viewport=0 0 425 262,width=15cm]{images/collisions-100000-1000000-32-ps.pdf}
1020   \end{center}
1021   \caption{Abschnätzung der unterschiedlichen Schnittmuster mit der
1022   \emph{Monte-Carlo-Methode} für $\operatorname{PS}(32)$. 385 von 1.000.000
1023   zufälligen Schnittmustern waren äquivalent zu einem Schnittmuster in einer
1024   Menge von 100.000. Daraus ergibt sich eine Schätzung von $2,6 \cdot 10^8$
1025   unterschiedlichen Schnittmustern.}
1026   \label{fig:collisions-100000-1000000-32-ps}
1027 \end{figure}
1028
1029 Im vorherigen Abschnitt wurde das \emph{Pairwise-Sorting-Netzwerk}
1030 $\operatorname{PS}(32)$ nicht betrachtet, da es für dieses Netzwerk viel mehr
1031 unterschiedliche 16-Schnittmuster gibt als für $\operatorname{OES}(32)$ und
1032 $\operatorname{BS}(32)$. In Anbetracht der Tatsache, dass die Anzahl der
1033 unterschiedlichen 8-Schnittmuster für $\operatorname{PS}(16)$ in
1034 Abbildung~\ref{fig:count-cuts-16} bereits mehr als dreimal größer war als die
1035 Anzahl für $\operatorname{OES}(16)$ beziehungsweise $\operatorname{BS}(16)$,
1036 ist dieser Umstand wenig verwunderlich. In einem kombinierten Graphen hätte
1037 man keine Details mehr erkennen können. Aufgrund der hohen Anzahl
1038 unterschiedlicher Schnittmuster, wurde für das gleiche Experiment mit
1039 $\operatorname{PS}(32)$ eine initiale Menge von 100.000 unterschiedilchen
1040 Schnittmustern erzeugt. Trotzdem wurden nach 1.000.000 Iterationen nur 385
1041 Schnittmuster gefunden, die zu einem Schnittmuster in der Menge äquivalent
1042 sind. Daraus ergibt sich eine Abschätzung von $2,6 \cdot 10^8$
1043 unterschiedlichen Schnittmustern -- zwei Zehnerpotenzen mehr als bei den
1044 vorherigen Sortiernetzwerken, aber immernoch fünf Zehnerpotenzen kleiner als
1045 die Anzahl der \emph{möglichen} Schnittmuster.
1046
1047 \newpage
1048 \section{Der \textsc{SN-Evolution}-Algorithmus}
1049
1050 Um einen evolutionären Algorithmus für Sortiernetzwerke zu entwickeln, werden
1051 die vorgestellten Methoden kombiniert.
1052
1053 \subsection{Bewertungsfunktion}\label{sect:bewertung}
1054
1055 Um Sortiernetzwerke überhaupt optimieren zu können, muss zunächst die
1056 {\em Güte} eines Netzwerkes definiert werden. Prinzipiell gibt es zwei Ziele,
1057 die interessant sind:
1058 \begin{itemize}
1059   \item Möglichst wenige Komparatoren ("`klein"')
1060   \item Möglichst wenige Schichten ("`schnell"')
1061 \end{itemize}
1062
1063 Diese Ziele führen im Allgemeinen zu unterschiedlichen Netzwerken. Das
1064 kleinste bekannte Sortiernetzwerk für 16~Eingänge besteht aus 60~Komparatoren
1065 in 10~Schichten. Das schnellste Netzwerk besteht aus 61~Komparatoren in nur
1066 9~Schichten.
1067
1068 Eine Gütefunktion, die die beiden Ziele "`klein"' und "`schnell"'
1069 berücksichtigen kann, hat die folgende allgemeine Form:
1070 \begin{equation}
1071   \operatorname{Guete}(S) = w_{\mathrm{Basis}}
1072                     + w_{\mathrm{Komparatoren}} \cdot \left|S\right|_\mathrm{Komparatoren}
1073                     + w_{\mathrm{Schichten}} \cdot \left|S\right|_\mathrm{Schichten}
1074 \end{equation}
1075 Die Parameter $w_{\mathrm{Komparatoren}}$ und $w_{\mathrm{Schichten}}$ dienen
1076 dabei der Festlegung des Optimierungsziels. Wenn einer der beiden Parameter
1077 gleich Null ist, wird nur das jeweils andere Ziel verfolgt. Sind beide
1078 Parameter gleich Null, werden alle Netzwerke mit der gleich Güte bewertet --
1079 jegliche Ergebnisse sind dann rein zufälliger Natur.
1080
1081 Mit dem Parameter $w_{\mathrm{Basis}}$ kann auf die Selektion Einfluss
1082 genommen werden. Ist er groß, wird der relative Unterschied der Güten
1083 verschiedener Netzwerke kleiner, was die {\em Exploration}, das Absuchen des
1084 gesamten Lösungsraums, begünstigt. Wählt man $w_{\mathrm{Basis}}$ hingegen
1085 klein, in Abhängigkeit von den anderen beiden Parametern sind auch negative
1086 Werte möglich, werden die relativen Unterschiede groß. Dadurch wird die {\em
1087 Exploitation}, das Finden lokaler Optima, bevorzugt.
1088
1089 \subsection{Selektion}
1090
1091 ...
1092
1093 \subsection{Rekombination}
1094
1095 Bei der Rekombination werden zwei Individuen --~hier Sortiernetzwerke~-- zu
1096 einer neuen Lösung kombiniert. Dazu verwenden wir einen Mischer, zum Beispiel
1097 den {\em bitonen Mischer} (Abschnitt~\ref{sect:der_bitone_mischer}) oder den
1098 {\em Odd-Even-Mischer} (Abschnitt~\ref{sect:der_odd_even_mischer}), um die
1099 beiden Netzwerke zu einem Netzwerk mit $2n$~Leitungen zusammenzufügen.
1100 Anschließend entfernen wir zufällig $n$~Leitungen wie in
1101 Abschnitt~\ref{sect:leitungen_entfernen} beschrieben.
1102
1103 Dieses Verfahren hat den großen Vorteil, dass es die Sortiereigenschaft
1104 erhält.
1105
1106 \subsection{Mutation}
1107
1108 Zu einem vollständigen evolutionären Algorithmus gehört außerdem eine Mutation
1109 --~eine zufällige Veränderung einer Lösung. Leider ist es nicht möglich ein
1110 Sortiernetzwerk zufällig zu verändern aber trotzdem die Sortiereigenschaft zu
1111 erhalten. Selbst das \emph{Hinzufügen} eines zufälligen Komparators kann diese
1112 Eigenschaft zerstören.
1113
1114 Nach einer Mutation müsste man überprüfen, ob das neue Komparatornetzwerk die
1115 Sortiereigenschaft noch besitzt. Nach heutigem Wissenstand ist diese
1116 Überprüfung nur mit exponentiellem Aufwand möglich, etwa durch das
1117 Ausprobieren aller $2^n$~Bitmuster.
1118
1119 Um das Potenzial einer Mutation abzuschätzen habe ich in den evolutionären
1120 Algorithmus eine Überprüfung eingebaut. Unmittelbar vor dem Einfügen in die
1121 Population überprüft das Programm die Notwendigkeit jedes einzelnen
1122 Komparators. Dazu wurde nacheinander jeder Komparator entfernt und überprüft,
1123 ob das verbleibende Netzwerk die Sortiereigenschaft noch besitzt.
1124
1125 \begin{itemize}
1126 \item Güte von Sortiernetzwerken (Anzahl der Komparatoren, Anzahl der
1127 Schichten, kobiniert)
1128 \item Rekombination: Merge Anhängen und Leitungen entfernen.
1129 \end{itemize}
1130
1131 Ein Beispielnetzwerk, das von dem Algorithmus gefunden wird, zeigt
1132 Abbildung~\ref{fig:evolutionary_08}.
1133
1134 \begin{figure}
1135 \begin{center}
1136 \input{images/evolutionary-08.tex}
1137 \end{center}
1138 \caption{Ein mit dem evolutionären Algorithmus erzeugtes Sortiernetzwerk mit
1139 acht Eingängen. Es besteht aus 19~Komparatoren in 6~Schichten.}
1140 \label{fig:evolutionary_08}
1141 \end{figure}
1142
1143 \begin{figure}
1144 \begin{center}
1145 \input{images/08-e2-1237993371.tex}
1146 \end{center}
1147 \caption{{\tt images/08-e2-1237993371.tex}: 19~Komparatoren in 6~Schichten}
1148 \label{fig:08-e2-1237993371}
1149 \end{figure}
1150
1151 \begin{figure}
1152 \begin{center}
1153 \input{images/09-e2-1237997073.tex}
1154 \end{center}
1155 \caption{{\tt images/09-e2-1237997073.tex}: 25~Komparatoren in 8~Schichten}
1156 \label{fig:09-e2-1237997073}
1157 \end{figure}
1158
1159 \begin{figure}
1160 \begin{center}
1161 \input{images/09-e2-1237999719.tex}
1162 \end{center}
1163 \caption{{\tt images/09-e2-1237999719.tex}: 25~Komparatoren in 7~Schichten}
1164 \label{fig:09-e2-1237999719}
1165 \end{figure}
1166
1167 \begin{figure}
1168 \begin{center}
1169 \input{images/10-e2-1239014566.tex}
1170 \end{center}
1171 \caption{{\tt images/10-e2-1239014566.tex}: 29~Komparatoren in 8~Schichten}
1172 \label{fig:10-e2-1239014566}
1173 \end{figure}
1174
1175 \subsection{Güte}
1176
1177 \begin{itemize}
1178 \item So gut kann man mindestens werden {\em ($\rightarrow$ Bitonic-Mergesort, vermute ich)}.
1179 \item Wie gut die Netzwerke werden, hängt stark vom verwendeten \em{Mischer} ab.
1180 \item Ggf. Abschnitt „Shmoo-Äquivalenz“ kürzen und hier einbauen.
1181 \end{itemize}
1182
1183 %\input{shmoo-aequivalenz.tex}
1184
1185 \newpage
1186 \section{Der \textsc{SN-Evolution-Cut}-Algorithmus}
1187 \label{sect:sn-evolution-cut}
1188
1189 Das Programm \textsc{SN-Evolution-Cut} implementiert einen evolutionären
1190 Algorithmus, der zu einem gegebenen Sortiernetzwerk und einer gewünschten
1191 Leitungszahl ein Schnittmuster sucht, dass ein Sortiernetzwerk mit einer
1192 möglichst geringen Anzahl von Komparatoren und Schichten ergibt. Zur Bewertung
1193 von Sortiernetzwerken siehe auch Abschnitt~\ref{sect:bewertung}. Mit diesem
1194 Algorithmus wurden zu einer Reihe von „interessanten“ Netzwerken möglichst
1195 gute Schnittmuster gesucht.
1196
1197 Der \textsc{SN-Evolution-Cut}-Algorithmus verwendet die \emph{Schnittmuster}
1198 als Individuen. Um zwei Individuen zu rekombinieren werden die ersten
1199 $r$~Schnitte des einen Schnittmusters verwendet und die letzten
1200 ${c-r}$~Schnitte des zweiten Schmittmusters. $r$ ist eine Zufallsvariable mit
1201 $0 \leqq r \leqq c$.
1202
1203 Die Mutation setzt entweder die Leitungs-Nummer eines Schnitts~$i$ zufällig
1204 auf einen neuen Wert $l$ mit $0 \leqq l \le n-i$ oder invertiert die
1205 Schnitt-Richtung.
1206
1207 \subsection{Versuche mit dem bitonen Mergesort-Netzwerk}
1208
1209 In \cite{MW2010} zeigen \textit{Moritz Mühlenthaler} und \textit{Rolf Wanka},
1210 wie man einen bitonen Mischer, der nach Batchers Methode konstruiert wurde,
1211 durch systematisches Entfernen von Leitungen in einen ebenfalls bitonen
1212 Mischer mit der Hälfte der Leitungen transformiert. Diese alternativen Mischer
1213 sparen im Vergleich zu den Mischern, die nach Batchers Methode konstruiert
1214 werden, Komparatoren ein.
1215
1216 Beispeilsweise geben \textit{Mühlenthaler} und \textit{Wanka} ein
1217 Sortiernetzwerk mit 16~Eingängen an, das mithilfe der alternativen Mischer
1218 konstruiert wurde. Dieses Sortiernetzwerk benötigt 68~Komparatoren, 12~weniger
1219 als das bitone Mergesort-Netzwerk nach Batchers Methode. Gegenüber Batchers
1220 Methode sparen so konstruierte Sortiernetzwerke ${\frac{1}{4}n(\log n - 1)}$
1221 Komparatoren ein.
1222
1223 \begin{figure}
1224   \begin{center}
1225     \input{images/16-ec-from-bs32.tex}
1226   \end{center}
1227   \caption{Sortiernetzwerk mit 16~Leitungen und 68~Komparatoren in
1228     10~Schichten. Das Netzwerk wurde von dem Algorithmus
1229     \textsc{SN-Evolution-Cut} aus dem \emph{bitonen Mergesort-Netzwerk}
1230     $\operatorname{BS}(32)$ durch 16~Schnitte erzeugt.}
1231   \label{fig:16-ec-from-bs32}
1232 \end{figure}
1233
1234 \begin{figure}
1235   \begin{center}
1236     \input{images/16-ec-from-bs32-normalized.tex}
1237   \end{center}
1238   \caption{Sortiernetzwerk mit 16~Leitungen und 68~Komparatoren in
1239     10~Schichten. Das Netzwerk wurde von dem Algorithmus
1240     \textsc{SN-Evolution-Cut} aus dem bitonen Mergesort-Netzwerk
1241     $\operatorname{BS}(32)$ durch 16~Schnitte erzeugt.}
1242   \label{fig:16-ec-from-bs32-normalized}
1243 \end{figure}
1244
1245 Startet man {\sc SN-Evolution-Cut} mit dem bitonen Mergesort-Netzwerk
1246 $\operatorname{BS}(32)$ und der Vorgabe 16~Leitungen zu entfernen, liefert der
1247 Algorithmus Sortiernetzwerke, die ebenfalls aus 68~Komparatoren bestehen. Ein
1248 16-Sortiernetzwerk, das auf diese Weise generiert wurde, ist in den
1249 Abbildungen~\ref{fig:16-ec-from-bs32} und~\ref{fig:16-ec-from-bs32-normalized}
1250 zu sehen. Abbildung~\ref{fig:16-ec-from-bs32} zeigt $\operatorname{BS}(32)$
1251 und das
1252 ${\operatorname{MIN}(0,5,9,11,15,17,20,22,26,29,30)}$-${\operatorname{MAX}(2,4,13,19,24)}$-Schnittmuster,
1253 das durch \textsc{SN-Evolution-Cut} gefunden wurde.
1254 Abbildung~\ref{fig:16-ec-from-bs32-normalized} zeigt das 16-Sortiernetzwerk
1255 nachdem das Schnittmuster angewandt und das Netzwerk normalisiert wurde. Eine
1256 Ähnlichkeit zu $\operatorname{BS}(32)$ oder $\operatorname{BS}(16)$ ist in
1257 diesem Netzwerk nicht mehr erkennbar -- insbesondere die ersten Schichten des
1258 Netzwerks scheinen rein zufällig zu sein.
1259
1260 \begin{figure}
1261   % 0:MAX 1:MAX 4:MIN 6:MAX 9:MAX 11:MAX 14:MIN 15:MAX 18:MAX 19:MAX 21:MAX
1262   % 23:MIN 24:MAX 25:MAX 30:MIN 31:MIN 32:MAX 34:MAX 36:MIN 37:MAX 40:MAX
1263   % 43:MAX 46:MIN 47:MAX 48:MAX 49:MAX 54:MIN 55:MAX 56:MAX 58:MIN 60:MAX
1264   % 63:MAX
1265   \begin{center}
1266     \input{images/32-ec-from-bs64.tex}
1267   \end{center}
1268   \caption{Sortiernetzwerk mit 32~Leitungen und 206~Komparatoren in
1269     15~Schichten. Das Netzwerk wurde von dem Algorithmus
1270     \textsc{SN-Evolution-Cut} aus dem bitonen Mergesort-Netzwerk
1271     $\operatorname{BS}(64)$ durch 32~Schnitte erzeugt. Das zugehörige
1272     Schnittmuster ist
1273     $\operatorname{MIN}(4, 14, 23, 30, 31, 36, 46, 54, 58)$,
1274     $\operatorname{MAX}(0, 1, 6, 9, 11, 15, 18, 19, 21, 24, 25, 32, 34, 37,
1275     40, 43, 47, 48, 49, 55, 56, 60, 63)$.}
1276   \label{fig:32-ec-from-bs64}
1277 \end{figure}
1278
1279 Das Ergebnis von \textit{Mühlenthaler} von \textit{Wanka}, die den bitonen
1280 Mischer optimiert und anschließend aus diesen Mischern ein Sortiernetzwerk
1281 konstruiert haben, kann demnach auch erreicht werden, wenn
1282 $\operatorname{BS}(32)$ auf ein 16-Sortiernetzwerk reduziert wird. Bei anderen
1283 Größen, beispielsweise wenn man $\operatorname{BS}(64)$ auf ein
1284 32-Sortiernetzwerk reduziert, kann das Ergebnis sogar noch übertroffen werden,
1285 wie in Abbildung~\ref{fig:32-ec-from-bs64} zu sehen: Ein nach Batchers Methode
1286 konstruiertes Sortiernetzwerk benötigt 240~Komparatoren, ein aus den
1287 optimierten Mischern aufgebautes Netzwerk verbessert die Kosten auf
1288 208~Komparatoren. Das in Abbildung~\ref{fig:32-ec-from-bs64} dargestellte
1289 Sortiernetzwerk benötigt lediglich 206~Komparatoren. Die Komparatoren aller
1290 dieser Netzwerke können in 15~Schichten angeordnet werden, so dass die
1291 Verzögerung dieser Sortiernetzwerke gleich ist.
1292
1293 Leider sind die Schnittmuster, die \textsc{SN-Evolution-Cut} ausgibt, sehr
1294 unregelmäßig. Bisher ist es nicht gelungen eine Konstruktionsanweisung für
1295 gute Schnittmuster anzugeben.
1296
1297 Entscheidend für das Ergebnis eines Schnittmusters scheint beim bitonen
1298 Mergesort-Netzwerk die Aufteilung der Minimum- und Maximumschnitte zu sein.
1299 Von Hundert 16-Schnittmustern für $\operatorname{BS}(32)$, die in
1300 Sortiernetzwerken mit 68~Komparatoren in 10~Schichten resultieren, hatten 73
1301 ein Verhältnis von $5/11$, 13 hatten ein Verhältnis von $4/12$ und 14 hatten
1302 ein Verhältnis von $3/13$ Minimum- beziehungsweise Maximumschnitten. Da sich
1303 die Schnittmuster aufgrund der Symmetrie des bitonen Mergesort-Netzwerks
1304 leicht invertieren lassen, werden der Fall, dass es mehr Minimumschnitte, und
1305 der Fall, dass es mehr Maximumschnitte gibt, nicht unterschieden.
1306
1307 Dass die Ergebnisse von \textsc{SN-Evolution-Cut} keine erkennbare Struktur
1308 haben, ist jedoch kein Eigenschaft des Algorithmus, sondern hängt insbesondere
1309 von der Eingabe ab. Wird \textsc{SN-Evolution-Cut} beispielsweise mit dem
1310 \emph{Odd-Even-Transpositionsort-Netzwerk} $\operatorname{OET}(n)$ und
1311 $m$~Schnitten gestartet, so ist das beste Ergebnis immer das
1312 $\operatorname{OET}(n-m)$-Netzwerk. 
1313
1314 \begin{figure}
1315   \begin{center}
1316     \input{images/16-ec-from-ps32.tex}
1317   \end{center}
1318   \caption{Sortiernetzwerk mit 16~Leitungen und 63~Komparatoren in
1319     10~Schichten. Das Netzwerk wurde von dem Algorithmus
1320     \textsc{SN-Evolution-Cut} aus dem \emph{Pairwise-Sorting-Netzwerk}
1321     $\operatorname{PS}(32)$ durch 16~Schnitte erzeugt.}
1322   \label{fig:16-ec-from-ps32}
1323 \end{figure}
1324
1325 \subsection{Versuche mit dem Pairwise-Sorting-Netzwerk}
1326
1327 Anders verhält sich das \emph{Pairwise-Sorting-Netzwerk}
1328 $\operatorname{PS}(n)$, das \textit{Ian Parberry} in seiner Arbeit „The
1329 Pairwise Sorting Network“ \cite{P1992} definiert. Startet man
1330 \textsc{SN-Evolution-Cut} mit $\operatorname{PS}(32)$ und der Vorgabe,
1331 16~Leitungen zu entfernen, erhält man ein Sortiernetzwerk, dass die gleiche
1332 Anzahl an Komparatoren und Schichten hat wie $\operatorname{PS}(16)$ und
1333 $\operatorname{OES}(16)$. Eines dieser Sortiernetzwerke ist in
1334 Abbildung~\ref{fig:16-ec-from-ps32} dargestellt.
1335
1336 Obwohl das \emph{Pairwise-Sorting-Netzwerk} den \emph{Odd-Even-Mischer} nicht
1337 einsetzt und auch nicht auf einem Mischer basiert, ist der
1338 $\operatorname{OEM}(8,8)$ im Sortiernetzwerk in
1339 Abbildung~\ref{fig:16-ec-from-ps32} eindeutig erkennbar (Schichten~7--10). In
1340 den Schichten~1--6 erkennt man zwei unabhängige Sortiernetzerke, die
1341 strukturell identisch zu $\operatorname{PS}(8)$ sind -- lediglich die
1342 Schichten~1 und~2 sowie 4~und~5 sind vertauscht.
1343
1344 \begin{displaymath}
1345 \textit{Eingang}_i = \left\{ \begin{array}{rl}
1346   -\infty & \quad \textrm{falls } i \operatorname{mod} 8 \in \{0, 6\} \\
1347    \infty & \quad \textrm{falls } i \operatorname{mod} 8 \in \{2, 4\} \\
1348         ? & \quad \mathrm{sonst}
1349   \end{array} \right.
1350 \end{displaymath}
1351
1352 \begin{figure}
1353   \begin{center}
1354     \input{images/32-pairwise-cut-16-pairwise.tex}
1355   \end{center}
1356   \caption{PS(32) mit 16 Schnitten zu PS(16).}
1357   \label{fig:ps16-from-ps32}
1358 \end{figure}
1359
1360 \begin{figure}
1361   \begin{center}
1362     \input{images/16-pairwise.tex}
1363   \end{center}
1364   \caption{Das $\operatorname{PS}(16)$-Sortiernetzwerk mit 8~Schnitten
1365   ($\operatorname{MIN}(0,2,4,6), \operatorname{MAX}(9,11,13,15)$). Das
1366   resultierende 8-Sortiernetzwerk ist $\operatorname{OES}(8)$.}
1367   \label{fig:16-pairwise}
1368 \end{figure}
1369
1370 Wendet man \textsc{SN-Evolution-Cut} auf $\operatorname{PS}(16)$ an, so kann
1371 man $\operatorname{OES}(8)$ erhalten.
1372
1373 \subsection{Versuche mit dem Odd-Even-Mergesort-Netzwerk}
1374
1375 \todo{Schreibe noch etwas zum Odd-Even-Mergesort-Netzwerk.}
1376
1377 \begin{itemize}
1378   \item Beispiel: Moritz und Rolfs Optimierung für Bitonic-Sort.
1379   \item Wie gut kann man durch wegschneiden werden?
1380   \item Wieviele Schnitte ergeben das selbe Netzwerk? Oder andersrum: Wieviele
1381   unterschiedliche Netzwerke kann ich erhalten? Wieviele Nachfolger hat ein
1382   Netzwerk / Knoten in der Markov-Kette?
1383   \item Abschnitt „Optimierung der Schnitte“ hier einbauen.
1384 \end{itemize}
1385
1386 \newpage
1387 \section{Der \textsc{SN-Markov}-Algorithmus}
1388
1389 Der evolutionäre \textsc{SN-Evolution}-Algorithmus aus dem vorherigen
1390 Abschnitt verwendete immer zwei zufällige Sortiernetzwerke („Individuen“) aus
1391 einer Population. Da die beiden „Eltern“ zufällig und unabhängig voneinander
1392 ausgewählt werden, kann es vorkommen, dass das selbe Sortiernetzwerk zweimal
1393 verwendet und mit sich selbst kombiniert wird.
1394
1395 Macht man diesen Spezialfall zum Regelfall, indem man \emph{immer} das
1396 aktuelle Netzwerk mit sich selbst kombiniert und anschließend die Hälfte aller
1397 Leitungen eliminiert, lassen sich einige interessante Beobachtungen anstellen.
1398 Netzwerke, die aus einem Netzwerk $S_0$ durch die beschriebene Kombination von
1399 $S_0$ mit sich selbst und anschließendem Eliminieren der Hälfte der Leitungen
1400 hervorgehen können, heißen \emph{Nachfolger} von $S_0$.
1401
1402 Beim beschriebenen Vorgehen kann man die Sortiernetzwerke als Knoten in einem
1403 (gerichteten) Graphen betrachten. Zwei Knoten $V_0$ und $V_1$, die zwei
1404 Sortiernetzwerke $S_0$ und $S_1$ repräsentieren, sind genau dann mit einer
1405 Kante ${E_{0,1} = (V_0, V_1)}$ verbunden, wenn $S_1$ ein \emph{Nachfolger} von
1406 $S_0$ ist, das heißt dass man $S_1$ durch die Rekombination von $S_0$ mit sich
1407 selbst erzeugen kann.
1408
1409 Wie in Abschnitt~\ref{sect:anzahl_schnittmuster} beschrieben ist die Anzahl
1410 (unterschiedlicher) Schnittmuster und damit die Anzahl der Nachfolger sehr
1411 groß. Wenn $S_0$ ein Sortiernetzwerk mit $n$~Leitungen ist, so hat $S_0$ bis
1412 zu
1413 \begin{displaymath}
1414   2^n \cdot \left( \begin{array}{c} 2n \\ n \end{array} \right)
1415 \end{displaymath}
1416 Nachfolger.
1417
1418 Der Algorithmus {\sc SN-Markov} legt auf diesem Nachfolger-Graph einen
1419 zufälligen Weg (englisch: \textit{random walk}) zurück. Er startet auf einem
1420 gegebenen Sortiernetzwerk. Um von einem Sortiernetzwerk zum Nächsten zu
1421 gelangen, rekombiniert der Algorithmus das aktuelle Sortiernetzwerk mit sich
1422 selbst und erhält so einen zufälligen Nachfolger.
1423
1424 \begin{itemize}
1425   \item $n \leftarrow \mathrm{Input}$
1426   \item \texttt{while} \textit{true}
1427   \begin{itemize}
1428     \item $n \leftarrow \operatorname{recombine} (n, n)$
1429   \end{itemize}
1430 \end{itemize}
1431
1432 \begin{itemize}
1433   \item Beste erreichte Netzwerke (gleich zu \emph{OE-Mergesort}).
1434   \item Anzahl der erreichbaren Sortiernetzwerke.
1435   \item Anzahl der Komparatoren und Anzahl der Schichten der durchlaufenen
1436     Netzwerke. (Abbildung~\ref{fig:markov-comparators-16})
1437 \end{itemize}
1438
1439 \begin{figure}
1440   \begin{center}
1441   \includegraphics[viewport=0 0 360 216,width=15cm]{images/markov-comparators-12-pct.pdf}
1442   \end{center}
1443   \caption{Anzahl der Komparatoren von Sortiernetzwerken (mit 12~Leitungen),
1444   die von {\sc SN-Markov} durchlaufen wurden. Grün eingezeichnet ist die
1445   \emph{Gamma-Verteilung} $f(x - 40)$ mit $k = 8,267$ und $\theta = 0,962$.}
1446   \label{fig:markov-comparators-12}
1447 \end{figure}
1448
1449 \begin{figure}
1450   \begin{center}
1451   \includegraphics[viewport=0 0 360 216,width=15cm]{images/markov-comparators-14-pct.pdf}
1452   \end{center}
1453   \caption{Anzahl der Komparatoren von Sortiernetzwerken (mit 14~Leitungen),
1454   die von {\sc SN-Markov} durchlaufen wurden. Grün eingezeichnet ist die
1455   \emph{Gamma-Verteilung} $f(x - 52)$ mit $k = 9,522$ und $\theta = 0,867$.}
1456   \label{fig:markov-comparators-14}
1457 \end{figure}
1458
1459 \begin{figure}
1460   \begin{center}
1461   \includegraphics[viewport=0 0 360 216,width=15cm]{images/markov-comparators-16-pct.pdf}
1462   \end{center}
1463   \caption{Anzahl der Komparatoren von Sortiernetzwerken (mit 16~Leitungen),
1464   die von {\sc SN-Markov} durchlaufen wurden. Grün eingezeichnet ist die
1465   \emph{Gamma-Verteilung} $f(x - 62)$ mit $k = 17,939$ und $\theta = 1,091$.}
1466   \label{fig:markov-comparators-16}
1467 \end{figure}
1468
1469 \newpage
1470 \section{Empirische Beobachtungen}
1471
1472 \begin{itemize}
1473 \item So schnell konvergiert der Algorithmus.
1474 \item $\ldots$
1475 \end{itemize}
1476
1477 \newpage
1478 \section{Ausblick}
1479
1480 Das würde mir noch einfallen$\ldots$
1481
1482 \newpage
1483 \section{Implementierung}
1484
1485 So habe ich die ganzen Versuche durchgeführt.
1486
1487 \newpage
1488 \bibliography{references}
1489 \bibliographystyle{plain}
1490
1491 %\listoffigures
1492
1493 \end{document}
1494
1495 % vim: set shiftwidth=2 softtabstop=2 tabstop=8 fdm=marker tw=78 :