Als Ethologie wird im deutschen Sprachraum traditionell die „klassische“ vergleichende Verhaltensforschung bezeichnet, die sich ab den 1930er-Jahren als eigenständige Forschungsrichtung etablierte, gelegentlich aber auch ganz generell die Verhaltensbiologie. Die Ethologie ist folglich ein Teilgebiet der Zoologie und eine Nachbardisziplin der Psychologie, aber innerhalb der Zoologie auch eine Ergänzung zu den vergleichenden Ansätzen von Morphologie, Anatomie und Physiologie im Dienst einer systematischen Verwandtschaftsforschung.

Wortbedeutung Die Bezeichnung Ethologie ist abgeleitet von ([]; „Gewohnheit, Sitte, Brauch“) oder dessen Ableitung ([]; „Charakter, Sinnesart, Brauch, Sitte, Gewohnheit“; siehe auch Ethos) und (unter anderem „philosophischer Lehrsatz“, im Plural auch „Wissenschaften“, vergleiche -logie). Ethologie bedeutet dem Wortsinne nach „die Wissenschaft von den Gewohnheiten“.. William Morton Wheeler: Natural history, ‚oecology‘ or ‚ethology‘? In: Science. Band 15, Nr. 390, 1902, S. 975, doi:10.1126/science.15.390.971.

Der Neologismus Ethologie wurde Mitte des 19. Jahrhunderts in Frankreich von Isidore Geoffroy Saint-Hilaire geprägt,Isidore Geoffroy Saint-Hilaire: Histoire naturelle des règnes organiques. Band 2, 1854, S. 285, Zugangsseite zum Volltext. und Friedrich Dahl hatte bereits 1898 vorgeschlagen, das französische Wort für die Lebensgewohnheiten der Tiere ins Deutsche zu übernehmen.Friedrich Dahl: Experimentelle statistische Ethologie. In: Verhandlungen der Deutschen Zoologischen Gesellschaft. 1898, S. 121–1131. Zur Abgrenzung von Biologie, Ökologie und Ethologie um 1900 siehe: Ulrich Sucker: Das Kaiser-Wilhelm-Institut für Biologie. Seine Gründungsgeschichte, seine problemgeschichtlichen und wissenschaftstheoretischen Voraussetzungen (1911–1916). Franz Steiner Verlag, Stuttgart 2002, S. 59 ff., ISBN 3-515-07912-2. Doch erst nachdem William Morton Wheeler 1902 ethology in den englischen Sprachraum eingeführtWilliam Morton Wheeler: Natural history, ‚oecology‘ or ‚ethology‘? In: Science. Band 15, Nr. 390, 1902, S. 971–976, doi:10.1126/science.15.390.971. und sich diese Bezeichnung dort durchgesetzt hatte, gelangte sie über diesen Umweg wieder zurück nach Deutschland.

Die klassische ethologische Instinktforschung Die ethologische Forschung ist eng verbunden mit den Arbeiten von Oskar Heinroth, Erich von Holst, Konrad Lorenz, Günter Tembrock, Nikolaas Tinbergen und Irenäus Eibl-Eibesfeldt, dem Entwurf einer Instinkttheorie sowie mit dem ehemaligen Max-Planck-Institut für Verhaltensphysiologie. Als bedeutender Vorläufer kann Jean-Henri Fabre betrachtet werden, der den Instinkt bei den Insekten untersuchte.

Das Fachgebiet der Ethologie integrierte Elemente aus mehreren Disziplinen. Ilse Jahn und Ulrich Sucker zufolge übernahmen die Ethologen zunächst „Elemente aus der naturwissenschaftlich orientierten Humanpsychologie von Wilhelm Wundt“, ferner Anregungen „aus der evolutionistischen vergleichenden Morphologie und Entwicklungsgeschichte“, und sie integrierten schließlich „Methoden der experimentellen Tierphysiologie sowie der taxonomischen Feldforschung.“Ilse Jahn und Ulrich Sucker: Die Herausbildung der Verhaltensbiologie. In: Ilse Jahn (Hrsg.): Geschichte der Biologie. 2., korrigierte Ausgabe der 3. Auflage. Spektrum Akademischer Verlag, Heidelberg und Berlin 2002, S. 593, ISBN 3-8274-1023-1.

Historischer Hintergrund Schon Hermann Samuel Reimarus (1694–1768) hatte 1760 in seiner Schrift Allgemeine Betrachtungen über die Triebe der Thiere „Instincte, Triebe, Künste“ beschrieben, die „ohne und vor aller Erfahrung, gleich nach ihrer Geburt“ dazu geeignet sind, ihrer „Selbsterhaltung“ zu dienen.Hermann Samuel Reimarus: Allgemeine Betrachtungen über die Triebe der Thiere, hauptsächlich über ihre Kunsttriebe. Zum Erkenntniss des Zusammenhanges der Welt, des Schöpfers und unser selbst. Johann Carl Bohn, Hamburg 1760, S. 92 und 96, Volltext. Hundert Jahre später konnte Charles Darwin aufgrund jahrelanger eigener Zuchtexperimente (u. a. an Haustauben) plausibel machen,Charles Darwin: On the origin of species by means of natural selection, or the preservation of favoured races in the struggle for life. John Murray, London 1859, Kapitel 1; . dass die häufig sehr komplexen Verhaltensweisen der Tiere aufgrund der gleichen Gesetzmäßigkeiten entstanden sein müssen wie ihre anatomischen Merkmale: also aufgrund von zufälliger Variabilität der einzelnen Merkmale und deren Bedeutung im „Überlebenskampf“ ihrer Träger. William James, der als Begründer der Psychologie in den USA und als prominenter Vertreter der sogenannten Instinktpsychologie gilt, ging 1890 in seinem Hauptwerk The Principles of Psychology aus evolutionsbiologischen Vermutungen beispielsweise davon aus, dass der Mensch mehrere Dutzend Instinkte besitze,William James: The Principles of Psychology. 2 Bände. Henry Holt and Company, New York 1890. und auch William McDougall, der Mitbegründer der British Psychological Society, schrieb 1908 dem Menschen zahlreiche „primäre Instinkte“ zu, u. a. Fluchtinstinkt, Ekelinstinkt, Neugierinstinkt, Aggressionsinstinkt, Selbstbehauptungsinstinkt, Sexualinstinkt, Elterninstinkt sowie je einen Instinkt für die Selbsterniedrigung durch Sich-selbst-Zurschaustellen und für die Geselligkeit.William McDougall: The Principal Instincts and the Primary Emotions. Kapitel 3 in: Derselbe: An Introduction to Social Psychology. Methuen & Co. Ltd., London 1919, . Im Original publiziert auf dem Server der McMaster University (Kanada).

Noch bis ins frühe 20. Jahrhundert hinein hielten sich aber auch sogenannte vitalistische Anschauungen, die angeborenes Instinktverhalten zwar nicht leugneten und sogar dessen Zweckmäßigkeit aufzeigten, jedoch die Frage nach dem Entstehen dieser Zweckmäßigkeit mit der Annahme einer Lebenskraft (lateinisch vis vitalis, daher: Vitalismus), einer Naturkraft oder der göttlichen Lenkung beantworteten. Diese Unterstellung letztlich übernatürlicher Kräfte blockierte lange Zeit jede naturwissenschaftliche Ursachenforschung. Ein prominenter Vertreter des Vitalismus war Alfred Russel Wallace. Obwohl Wallace neben Darwin als der Begründer der modernen Evolutionstheorie gilt, hielt er das Entstehen der Instinkte nicht für evolutionsbiologisch erklärbar.

In scharfem Gegensatz zu den vitalistischen Richtungen standen die sogenannten Mechanisten, die alles Verhalten als das gleichsam passive Reagieren auf Außenreize deuteten, als eine Kette von Reflexen („Reflexkettentheorie“). Ihre Anschauungen fußten vor allem auf den Forschungsergebnissen des Nobelpreisträgers Iwan Pawlow und verneinten innere Antriebe bzw. schlossen sie mangels Zugänglichkeit als Gegenstand wissenschaftlicher Untersuchung aus. Prominente Vertreter dieser Richtung waren neben Pawlow die US-amerikanischen Psychologen John B. Watson, der Begründer des klassischen Behaviorismus, sowie B. F. Skinner. Im deutschen Sprachraum entwickelte sich nach dem Ersten Weltkrieg eine eigenständige Forschungsrichtung. Zum einen betonte sie – im Unterschied zum Behaviorismus – das spontane Auftreten von angeborenem Verhalten aufgrund innerer, zentralnervöser Ursachen („Triebe“). Zum anderen verglichen ihre Vertreter – aufgrund der unterstellten Vererbbarkeit solcher Verhaltensweisen – das Verhalten verwandter Arten in ähnlicher Weise miteinander, wie Anatomen anatomische Merkmale miteinander vergleichen (daher auch vergleichende Verhaltensforschung).Zwei frühe Studien sind: Günther Schlesinger: Zur Ethologie der Mormyriden. In: Annalen des Naturhistorischen Museums in Wien. Band 23, Nr. 3/4, 1909, S. 282–311 (). Oskar Heinroth: Beiträge zur Biologie, namentlich Ethologie und Psychologie der Anatiden. In: Verhandlungen des V. Internationalen Ornithologen-Kongresses in Berlin, 30. Mai bis 4. Juni 1910. Deutsche Ornithologische Gesellschaft, Berlin 1911, S. 559–702, Volltext. 1937 schuf sich diese Forschungsrichtung mittels der Zeitschrift für Tierpsychologie ein eigenes Publikationsorgan. Erst nach dem Zweiten Weltkrieg wurde die Bezeichnung Tierpsychologie durch die Bezeichnung Ethologie abgelöst, da die Tierpsychologie inzwischen im Ruf einer bloßen Liebhaberei stand.

Noch in den 1970er-Jahren wurden die Bezeichnungen Ethologie, Instinktforschung und vergleichende Verhaltensforschung von den Forschern dieses Fachgebiets als Synonyme verwendet.Siehe z. B. Katharina Heinroth in Grzimeks Tierleben, Ergänzungsband Verhaltensforschung, Kap. 1, Kindler Verlag, Zürich 1974.

In dem Maße, in dem die aus der „klassischen“ vergleichenden Verhaltensforschung hervorgegangene Instinkttheorie aufgrund von neueren verhaltensökologischen sowie neurobiologischen Befunden als überholt angesehen wurde, benutzten viele Verhaltensforscher seit den frühen 1980er-Jahren auch die Bezeichnung Ethologie immer weniger und ersetzten sie durch die als neutraler empfundene Bezeichnung Verhaltensbiologie.Volker Schurig: Hundert Jahre Wissenschaftsbegriff ‚Ethologie‘: eine kritische Bilanz. In: Biologie in unserer Zeit. Nr. 2 / 2011, S. 92. Hier heißt es wörtlich: „Der Wissenschaftsbegriff ‚Ethologie‘ verschwindet seit 1980 zunehmend aus dem wissenschaftlichen Sprachgebrauch.“

Außerhalb des deutschen Sprachraums hingegen stehen heute beispielsweise ethology (engl.), éthologie (französ.), etología (spanisch), etologia (italienisch), etoloji (türkisch) und etologi (dänisch) ganz allgemein für Verhaltensbiologie. Deshalb wurde die 1937 von Konrad Lorenz mitbegründete Zeitschrift für Tierpsychologie, neben Behaviour und Animal Behaviour jahrzehntelang die bedeutendste verhaltensbiologische Fachpublikation, ab 1986 von Wolfgang Wickler – dem internationalen Sprachgebrauch folgend – in Ethology umbenannt.

Das Instinktkonzept

Eine grundlegende Wendung nahm die Verhaltensforschung durch Oskar Heinroth, in dessen 1911 publiziertem Vortrag vor dem 5. Internationalen Ornithologen-Kongress das Wort Ethologie erstmals im heutigen, in Deutschland gebräuchlichen Sinne auch vor großem Fachpublikum verwendet wurde.Oskar Heinroth: Beiträge zur Biologie, namentlich Ethologie und Psychologie der Anatiden. In: Berichte des V. Int. Ornithologen Kongresses. Berlin 1910, S. 559 ff. Heinroth hatte zunächst das Verhalten von diversen Gänse- und Entenarten studiert und dabei festgestellt, dass bestimmte Bewegungsweisen (beispielsweise bei der Balz) von Tieren gleichen Geschlechts und gleicher Art mit immer denselben Gesten und Körperhaltungen ausgeführt werden. Heinroth nannte solche formkonstanten Bewegungen arteigene Triebhandlungen und konnte aufzeigen, dass verwandte Arten mehr oder weniger starke Abwandlungen solcher Verhaltensweisen besitzen. Von diesen genauen Verhaltensbeobachtungen zu einer evolutionären Deutung ihres Entstehens war es dann weder für Heinroth noch für dessen späteren Schüler Konrad Lorenz ein großer Schritt. Lorenz griff 1931 die Bezeichnung Ethologie erstmals auf, als er einen umfangreichen Aufsatz über die „Ethologie sozialer Corviden“ veröffentlichte.Konrad Lorenz: Beiträge zur Ethologie sozialer Corviden. In: Journal für Ornithologie. Band 79, Nr. 1, 1931, S. 67–127, Volltext (PDF).

Die ethologische Instinkttheorie besagt, dass Instinktverhalten im Erbgut verankert ist und durch Schlüsselreize ausgelöst werden kann, solange eine innere aktionsspezifische Energie vorhanden ist. Die Zweckmäßigkeit dieses Ineinandergreifens von äußerem Auslöser, Handlungsbereitschaft und spezifischer Verhaltensweise habe sich im Prozess der Evolution entwickelt und diene letztlich der Weitergabe der Gene an die jeweils nächste Generation.