История на Бон започва още от римско време.  В 11 г. до н.е. Бон е станал лагер на римските войски. Там е била построена крепостта Castra Bonnensia.

Смята се, че оттам идва името на града – Bonna. Друга хипотеза твърди, че името на града е свързано с местното наименование на германското племе ебурони.

През 1597 градът става културна резиденция на тогавашна Германия.

От 1597 до 1794 г. в града е било седалището на архиепископа на Кьолн.

През 1770 г. в града се е родил Лудвиг ван Бетовен.

През 1835-1836 г. в университета в Бон е учел Карл Маркс, а в годините 1877-1879 – немски кайзер Вилхелм II.