Die lange und glanzvolle Geschichte von Kos hat ihren Weg durch verschiedene Zeitalter beschritten, dabei geht sie bis in das 3. Jahrtausend v. Chr., am Ende der Jungsteinzeit (einer etwa 3500 Jahre, d. h. von 6500 bis 3000 v. Chr., dauernden Periode) zurück. Von den wenigen Überresten der ersten ausgegrabenen Gebäude aus dieser Periode bis in unsere heutige Epoche hat die Zeit ihre unverkennbaren Spuren in Form von Häusern, Monumenten und anderen von Menschenhand geschaffenen Objekten und Bauten hinterlassen. Auch in der griechischen Mythologie nimmt Kos einen besonderen Platz ein. Dem Mythos zufolge fand hier die berühmte Schlacht zwischen den Olympischen Göttern und den Giganten (die sogenannte Gigantomachie) statt und hier gründeten Herakles und seine Begleiter die Dynastie der Herakliden, deren prominentester Nachkomme Hippokrates war.
Über die Taten der mythischen Heroen hinaus wurde Kos auch von einer Reihe großer Zivilisationen beeinflusst. Zu diesen gehörten von etwa 1100 bis etwa 600 v. Chr. die Minoer, die Mykener und die Dorer. In dieser Zeit florierte die Insel, während sie auf Bedrohungen unbeirrt mit Krieg reagierte. Außerdem änderte sich das politische System von der Monarchie zur Oligarchie.
546 v. Chr. wird Kos vom Persischen Königreich erobert und bleibt bis 478 v. Chr. in persischer Hand. Zu diesem Zeitpunkt wird es Mitglied im Attisch-Delischen Seebund (einem Bund durch Athen geführter Stadtstaaten) und wieder eine freie Stadt. In den folgenden Jahren schließt Kos in einer von Bürgerkriegen und politischen Unruhen geprägten Zeit ein Bündnis mit dem Peloponnesischen Bund (einem militärischen Bündnis von griechischen Stadtstaaten unter der Leitung von Sparta). In dieser Zeit wurde auch die namensgleiche Hauptstadt der Insel Kos gegründet, die heute noch die Hauptstadt der Insel ist.
288 v. Chr. wird Kos in das Ptolemäische Königreich integriert und behält große Privilegien, die ihm von den ptolemäischen Herrschern verliehen werden. Die Insel erlebte für etwa 100 Jahre eine Blütezeit, die erst mit der römischen Invasion von 197 v. Chr. endete. In dieser Zeit wurde der große Asklepios-Tempel und andere wichtige Gebäude errichtet
Die spätere byzantinische Besetzung der Insel ist Ursache für die Zerstörung aller nichtchristlichen Denkmäler, und zahlreiche Erdbeben sowie wiederholte Invasionen führten zum allmählichen Niedergang der Insel, der schließlich in der Aufgabe des berühmten Asklepios-Kultes gipfelt. Im 11. Jh. n. Chr. erlangt Kos allerdings erneut an Bedeutung, diesmal als einer der wichtigsten Häfen in der Ägäis durch die rasante Entwicklung des Seehandels im östlichen Mittelmeerraum. Von 1309 bis 1324 übergaben die Byzantiner die Verwaltung der Insel zunächst an den Johanniterorden und später an die Tempelritter. Aus dieser Zeit stammen die Befestigungsbauten der Insel, einschließlich der Festungen in der Stadt Kos und in Antimachia
Das Jahr 1523 markiert den Beginn der osmanischen Besetzung der Insel, die immer wieder Opfer von Angriffen unter anderem durch algerische und venezianische Invasoren ist. Die folgenden Jahrhunderte sind von der Härte der osmanischen Besatzer geprägt, obwohl der Hafen der Insel zu dieser Zeit eine wichtige Station für Handelsschiffe auf dem Weg zwischen dem Westen und dem Osmanischen Reich war..
Die Türken zogen sich 1911 von der Insel zurück und ihre Stelle nahmen die Italiener ein, die nicht nur Kos besetzten, sondern nach und nach die gesamte Dodekanes. Die Inselgruppe wird 1923 im Vertrag von Lausanne offiziell an Italien annektiert und die Bewohner von Kos wurden italienische Staatsbürger, jedoch ohne Stimmrecht. Im Zweiten Weltkrieg wird Kos zunächst von der Deutschen Wehrmacht besetzt, die die Insel nach ihrer Niederlage an die Engländer übergibt. England richtete seinerseits eine provisorische Militärverwaltung auf der Insel ein. 1946 wird Kos zusammen mit den übrigen Inseln der Dodekanes auf Anordnung der Alliierten (USA, UdSSR, Großbritannien und Frankreich) an Griechenland angegliedert. Die Vereinigung mit Griechenland wurde am 7. März 1948 offiziell unterzeichnet.