Σύμφωνα με την παράδοση, πρώτοι οι θεοί αγωνίστηκαν στην Ολυμπία. Ο Δίας νίκησε τον Κρόνο στην πάλη, ο Απόλλωνας τον Ερμή στο δρόμο και τον Άρη στην πυγμή. Οι αρχαίες γραπτές πηγές αναφέρουν ως έτος έναρξης των αγώνων το 776 π.Χ. Από το έτος αυτό αρχίζει και ο κατάλογος των Ολυμπιονικών (που συμπληρώθηκε βέβαια πολύ αργότερα)
.
Οι Πισάτες διοργάνωναν τους αγώνες από το 668 έως το 572 π.Χ. Το 570 π.Χ. οι Ηλείοι κατέλαβαν την Πίσα και έθεσαν υπό τον έλεγχό τους τη διοργάνωση των αγώνων. Τον 5ο αι. π.Χ. οι αγώνες έφτασαν στο απόγειο της δόξας τους. Στην ελληνική εποχή όμως, έχασαν τον αρχικό τους χαρακτήρα και μετατράπηκαν σε επαγγελματικές αθλητικές εκδηλώσεις κάτι που παγιώθηκε στη ρωμαϊκή εποχή.
Τελικά καταργήθηκαν από το Θεοδόσιο Α΄ το 393 μ.Χ. (293η Ολυμπιάδα).
Τον Ιούνιο του 1894 με την προσπάθεια του Γάλλου βαρόνου Πιερ Ντε Κουμπερτέν και πάντα; Στο πρότυπο των Ολυμπιακών Αγώνων της αρχαιότητας, καθιερώθηκε η νέα διοργάνωση των Διεθνών Ολυμπιακών αγώνων ξεκίνησε στα 1896 με τη διοργάνωση της 1ης Ολυμπιάδας στην Αθήνα.
Το 1936 καθιερώθηκε η λαμπρή τελετή αφής της Ολυμπιακής Φλόγας, που ανάβει στην Ολυμπία πριν από κάθε Ολυμπιάδα. Το 1961 ιδρύθηκε η Διεθνής Ολυμπιακή Ακαδημία ΔΟΑ που φιλοξενεί κάθε χρόνο νέα αθλητικά στελέχη από όλον τον κόσμο με σκοπό τη μελέτη θεμάτων σχετικών με τον αθλητισμό και τους Ολυμπιακούς Αγώνες.