CARS führen ein neues Computingmodell ein, welches sich von herkömmlichen Systemen wesentlich unterscheidet. Sie lernen, sich anzupassen und sich ohne oder nur mit geringer Kontrolle weiterzuentwickeln. Eine grundlegende Frage ist daher, welche Regeln und Prinzipien die Entwicklung von CARS leiten sollten. Bei natürlichen Lebensformen geschieht dies durch natürliche Selektion – eine zufällige Trial-and-Error-Methode, die im Laufe der Zeit dafür sorgt, dass nur die Stärksten überleben. Dieser Ansatz ist jedoch für künstliche Fahrzeuge möglicherweise nicht akzeptabel. Alternative Ansätze zur Steuerung der Entwicklung von CARS sind notwendig.
Das zentrale Forschungsziel ist die Sicherstellung des „Do no Harm“-Prinzips. Entsprechend stellen sich sicherheitsrelevante Fragen für mehrere Forschungsschwerpunkte:
CARS Stability: Eine Schlüsselanforderung für CARS ist Stabilität. Dies liegt daran, dass CARS, wie jedes gut konzipierte Steuerungssystem, nicht in unerwünschte Situationen geraten soll (z. B. Kettenreaktionen, die CARS in schädliche Zustände versetzen). Das Ziel ist es, das autonome Verhalten zu regulieren, um es in akzeptablen Grenzen zu halten oder Verhaltensweisen zu erkennen und zu mildern, die außerhalb der vorgegebenen Grenzen liegen.
CARS Compliance: Ein wichtiger Aspekt ist auch die Einhaltung von Vorschriften: wie sollten sich die CARS verhalten, und wie stellen wir sicher, dass sie dies entsprechend tun? Die erste Herausforderung, der wir uns hier stellen, ist, wie wir das Verhalten der CARS formal spezifizieren können und wie wir sicherstellen, dass die Spezifikation konsistent (d.h. nicht widersprüchlich) ist und die Erwartungen der Regulierungsbehörden und Nutzer erfüllt. Die zweite Herausforderung besteht darin, zeigen zu können, dass sich die konstruierten CARS in Übereinstimmung mit der Spezifikation verhalten sowie geeignete Grenzen der Autonomie zu bestimmen.
CARS Accountability: Ein weiterer Schwerpunkt ist die Verantwortlichkeit der Fahrzeuge: Autos existieren nicht im Vakuum. Vielmehr werden sie Teil unserer täglichen sozialen Infrastruktur. CARS müssen daher die von ihm betroffenen Human Factors berücksichtigen, insbesondere muss es gegenüber einer natürlichen Person zur Verantwortung gezogen werden können. Wie also bauen wir CARS, die Ethik, gesetzliche Haftung und Prüfung unterstützen? Wie viel Verantwortung sollten CARS übernehmen, und wie viel der Mensch? Wie kann dies spezifiziert, validiert und durchgesetzt werden? CARS haben per Definition die Fähigkeit, selbst Entscheidungen über ihren eigenen Betrieb zu treffen. Es besteht ein echter Bedarf an einer natürlichen Person, die diesen Entscheidungspfad nachbildet und interpretiert, um herauszufinden, was passiert ist und warum?
CARS Risk Management: Wie bemisst man die Risiken von CARS und deren Auswirkungen? Wie können wir entscheiden, ob ein Risiko noch akzeptabel ist?