James Britt Donovan wurde am 29. Februar 1916 in New York als Sohn des Chirurgen John J. Donovan und dessen Ehefrau, der Klavierlehrerin Harriet O’Connor, geboren. Beide Eltern hatten irische Vorfahren. 1937 begann James Donovan an der Fordham University in New York zu studieren. Nach einem Bachelor-Abschluss in Englisch absolvierte er noch bis 1940 ein Jura-Studium in Harvard. Nach verschiedenen juristischen Tätigkeiten wurde James Donovan 1945 Assistent von Robert H. Jackson, des Hauptanklagevertreters der USA bei den Nürnberger Prozessen.

1941 hatte er Mary E. McKenna geheiratet. Sie bekamen einen Sohn und drei Töchter.

1957 verteidigte der New Yorker Rechtsanwalt den britischen Staatsbürger Rudolf Abel vor Gericht. Andere Juristen hatten es abgelehnt, den mutmaßlichen KGB-Spion rechtlich zu vertreten, weil sie Anfeindungen von Patrioten befürchteten. Der Oberste Richter Earl Warren lobte James B. Donovan für seinen Mut.

Während James B. Donovan im Präsidium des New York Board of Education saß (Vizepräsident: 1961 – 1963; Präsident: 1963 – 1965), verhandelte er Anfang 1962 mit Vertretern der UdSSR über die Freilassung des über deren Territorium abgeschossenen U-2-Piloten Francis Gary Powers. Der CIA-Agent Milan Carl Miskovsky (1926 – 2009) stand ihm dabei zur Seite. FBI-Chef J. Edgar Hoover hatte sich zunächst gegen einen Austausch Abel / Powers gesträubt, aber Präsident John F. Kennedy war dafür. Schließlich erreichte James Donovan, dass am 10. Februar 1962 nicht nur Francis Gary Powers, sondern auch der in Ostberlin inhaftierte amerikanische Student Frederic Pryor gegen Rudolf Abel ausgetauscht wurde.

Im Juni 1962 bat der Exilkubaner Pérez Cisneros den erfolgreichen Unterhändler um Unterstützung bei den Gesprächen über die Freilassung der Männer, die bei dem von den USA organisierten militärischen Angriff kubanischer Exilanten auf Kuba gefangengenommen worden waren (Invasion in der Schweinebucht, 17. April 1961). James Donovan erklärte sich bereit, pro bono für das Komitee der kubanischen Familienangehörigen tätig zu werden. Elf Mal flog er nach Havanna. Weil der kubanische Staatschef Fidel Castro dem Unterhändler offenbar vertraute, drängte die CIA den Juristen, Castro eine mit Gift präparierte Taucherausrüstung zu schenken (Operation Mongoose), aber James Donovan weigerte sich, bei einem Anschlag mitzuwirken. Gegen US-Lieferungen von Medikamenten und Nahrungsmitteln an Kuba bekam er 1113 Gefangene frei.

Er wurde mit der Distinguished Intelligence Medal ausgezeichnet.

James B. Donovan schrieb die Bücher „Strangers on a Bridge. The Case of Colonel Abel“ (1964) und „Challenges. Reflections of a Lawyer-at-Large“ (1967).

Er starb am 19. Januar 1970 in einem New Yorker Krankenhaus.

Philip J. Bigger veröffentlichte 2006 die Biografie „Negotiator. The Life and Career of James B. Donovan“.

In dem Kinofilm „Bridge of Spies. Der Unterhändler“ von Steven Spielberg wird James B. Donovan von Tom Hanks verkörpert.