Costa fu assassinato dalla mafia il 6 agosto 1980. Alle 19:30, passeggiando da solo ed a piedi a due passi da casa sua, fu freddato da 6 colpi di pistola P38 sparatigli alle spalle da due killer scappati forse in moto o forse su una A112 trovata poi bruciata, Costa stava sfogliando dei libri su una bancarella: il Procuratore Capo di Palermo morì dissanguato su un marciapiede di via Cavour a Palermo.[1] Al funerale parteciparono poche persone soprattutto pochi magistrati.
Di lui scrisse un suo sostituto che era un uomo “di cui si poteva comperare solo la morte”. Non va dimenticato che, pur essendo l’unico magistrato a Palermo al quale, in quel momento, erano state assegnate un’auto blindata ed una scorta, non ne usufruiva ritenendo che la sua protezione avrebbe messo in pericolo altri e che lui era uno di quelli che “aveva il dovere di avere coraggio”.
Causa di quella spietata esecuzione, il fatto che egli avesse firmato personalmente dei mandati di cattura nei confronti del boss Rosario Spatola ed alcuni dei suoi uomini che altri suoi colleghi si erano rifiutati di firmare. Il delitto venne ordinato dal clan mafioso capeggiato da Salvatore Inzerillo
Nessuno è stato condannato per la sua morte, ancorché la Corte di assise di Catania ne abbia accertato il contesto individuandolo nella zona grigia tra affari, politica e crimine organizzato. Da molti settori, compresa la Magistratura, si è cercato di farlo dimenticare anche, forse, per nascondere le colpe di coloro che lo lasciarono solo e, come disse Sciascia, lo additarono alla vendetta mafiosa. Il suo impegno fu continuato da Rocco Chinnici, allora tra i pochi che lo capirono e ne condivisero gli intenti e l’azione. E a cui, per questo, toccò la stessa sorte.