Wie sicher ist denn das Computersystem?

Mal wirklich eine wichtige Frage hier, wie wichtig ist das
Computersystem?

Lässt sich der Fehler nachvollziehen und beheben?

Leider steht in einem Bericht:
" Defence pundit Helmoed-Römer Heitman told the Weekend Argus that if
“the cause lay in computer error, the reason for the tragedy might
never be found.""

http://blog.wired.com/defense/2007/10/robot-cannon-ki.html

Wenn das wirklich zutrifft, so ist das System denkbar schlecht
konzipiert. Solche Systeme müssen alles mitloggen. Geschwindigkeit
ist hierbei irrelevant, Zuverlässigkeit ist das Problem. Wenn das
System beispielsweise in C geschrieben wurde muss sich die Firma
ernsthaft die Frage stellen lassen, warum nicht ADA. Wurden
vielleicht normale PC-Komponenten verwendet? Gab es Redundanz im
Sinne der Fehlererkennung? (z.Bsp. 3 Steuerrechner, erst wenn 2 von 3
einer Meinung sind wird etwas getan)

Es gibt unglaublich viele Fehlerquellen für so ein System, und den
größten Teil kann man mit ein wenig mehr Aufwand ausschließen. Und
man kann ziemlich einfach Mechanismen installieren, welche es
ermöglichen, Fehler präzise nachzuvollziehen.

Ob man natürlich solche Systeme überhaupt einsetzen sollte ist
natürlich eine ganz andere Frage. Prinzipiell bin ich dagegen Technik
zur Unterdrückung anderer einzusetzen.