N ell'altopiano delle Murge sopra un terreno collinare sorge Canosa, città di origine antichissime la cui fondazione è mitologicamente legata all'eroe greco Diomede.
Le ricerche archeologiche hanno svelato invece che il territorio di Canosa fu abitato fin dal Neolitico (6.000-3.500 a.C.) fino all'Età del Bronzo (3.500-1.200 a.C.) come dimostrato dalla necropoli del Pozzillo.
Verso il XII sec. a.C. arrivarono dall'Illiria, l'attuale Albania, popolazioni di Iapigi che diedero luogo a tre differenti culture in Puglia: la Daunia, la Peucezia e la Messapia.
Furono i Dauni a fondare il primo abitato conosciuto come Toppicelli e ben documentato da tombe ricche di corredi funerari appartenuti ai cosiddetti principes.
Canosa divenne sempre più importante e cominciò a stringere accordi commerciali con le vicine città magnogreche con la mediazione di Taranto e dopo il IV sec. a. C. direttamente con le città interessate.

Canosa entrò nella sfera politica di Roma nel 318 a.C. ma i suoi ricchi abitanti seppero stipulare un accordo vantaggioso che salvaguardò l'indipendenza della città che infatti continuò a battere una sua moneta.

Nel 216 a.C. Canosa accolse i Romani sconfitti da Annibale nella battaglia di Canne garantendosi un florido futuro al termine della guerra.
Nell'86 a.C., dopo la fine delle guerre civili in cui Canosa si schierò contro Roma, divenne municipium e in epoca imperiale fu raggiunta dal percorso della via Traiana (108 d.C.), arteria secondaria della via Appia, che collegava Benevento a Brindisi.
Nella seconda metà II secolo d.C. la città divenne colonia col nome di Colonia Aurelia Augusta Pia Canusium. Sono di questo periodo la costruzione del foro, dell'anfiteatro, delle terme e di un tempio dedicato a Giove.
Nel III secolo divenne sede vescovile e, dopo il periodo delle invasioni barbariche (IV sec. d.C.), conobbe lo scontro tra Ostrogoti e Bizantini durante la guerra greco-gotica (535-553 d.C.) quando Canosa venne fortificata.
Nel VII secolo Canosa entrò a far parte dei domini longobardi divenendo sede del gastaldo, il funzionario amministrativo del principe longobardo sul territorio.
Nel secolo successivo fu il principe Arechi II (758-787) a volere l'edificazione della Cattedrale di Canosa.
La discesa dei Franchi in Italia (774) e l'arrivo dei Saraceni (847-871) che avevano creato un emirato a Bari ed avevano conquistato la Sicilia, diedero un colpo all'economia di Canosa che iniziò a decadere.
Nell'876 la Puglia fu riconquistata dai Bizantini ma la loro gestione economica provocò presto una sollevazione di molte città pugliesi che si fusero nella lega dei Comuni di Puglia e, grazie all'aiuto dei mercenari normanni, ottennero l'indipendenza.

Con l'arrivo del normanno Roberto il Guiscardo, il quale sposò la principessa guerriera longobarda Sichelgaita la Puglia, si liberò del tutto dal dominio bizantino. Canosa tuttavia, pur entrando nelle mete favorite del principe Boemondo d'Altavilla, perse d'importanza a favore di Bari e conobbe un lento declino politico ed economico che proseguì anche sotto la casata sveva (XIII sec.).
La situazione si aggravò nei secoli a causa di ripetuti terremoti (1361, 1456, 1627, 1659, 1851, 1930) che minarono fortemente l'economia della città.

Successivamente Canosa, come molte altre città del sud Italia, passò prima in mano angioina e quindi in mano aragonese conoscendo la signoria di alcune delle più potenti famiglie nobiliari dell'epoca.

Il 6 novembre 1943 Canosa venne bombardata dalle forze alleate nell'ambito degli scontri della Seconda Guerra Mondiale.