Een complex systeem is een systeem dat in zijn geheel bepaalde eigenschappen vertoont die niet af te leiden zijn uit de eigenschappen van elk der samenstellende delen afzonderlijk.
Enkele voorbeelden van complexe systemen zijn: mierenkolonies, economieën, het klimaat, het zenuwstelsel, cellen van organismen, vormen van telecommunicatie over een netwerk, en alle organismen.
Hoewel er geen algemene taxonomie van complexe systemen bestaat, zijn karakteristieke kenmerken die ze kunnen vertonen de volgende:
Een dynamisch systeem is tevens chaotisch als het de volgende kenmerken bezit:
Complexe adaptieve systemen (CAS) zijn net als gewone complexe systemen opgebouwd uit onderling verbonden delen, maar ze vertonen tevens adaptiviteit. Enkele voorbeelden zijn: aandelenmarkten, het ecosysteem, de biosfeer, het brein, het zenuwstelsel en het immuunsysteem.
Een systeem is niet-lineair wanneer het gedrag van het systeem als geheel niet kan worden gedefinieerd als de som van de gedragingen der verschillende onderdelen, anders gezegd wanneer het superpositiebeginsel niet van toepassing is. De niet-lineaire systemen staan tegenover de lineaire.
Complexiteit kan een gedesorganiseerd of georganiseerd karakter hebben. Gedesorganiseerde complexiteit kent een zeer groot of zelfs onbeperkt aantal onderdelen. Georganiseerde complexiteit is een systeem met een in principe beperkt aantal onderdelen met veel onderlinge samenhang. De samenhang kan zowel fysiek als abstract van aard zijn. Bij fysieke samenhang is er tevens sprake van contiguïteit tussen de verschillende delen van het complexe systeem.
Het begrip zelforganisatie is nauw verbonden met werk in de niet-evenwichtsthermodynamica. Vooral Ilya Prigogine heeft op dit gebied pionierswerk verricht met zijn studie van dissipatieve systemen in de thermodynamica.
Complexe systemen worden met name onderzocht in de natuurwetenschap, wiskunde en de sociale wetenschap, en meer specifiek in de systeemtheorie, de complexiteitstheorie. de systeemecologie en de cybernetica. In de contemporaine evolutionaire taalwetenschap wordt ook taal als een complex systeem beschouwd.
Op het gebied van de wiskunde is de grootste bijdrage aan de studie van complexe systemen de ontdekking van de chaos in deterministische systemen geweest.