Cын “арапа Петра Великого”, Иван Абрамович Ганнибал 9 - летним мальчиком был зачислен на военную службу. Прошел обучение в Морской артиллерийской школе и Морском шляхетском корпусе. Участвовал во многих морских сражениях, где проявил мужество и храбрость. Во время русско-турецкой войны 1768-74 годов в чине бригадира морской артиллерии командовал 2,5 тысячным десантом на кораблях эскадры адмирала Г.А. Спиридова. В 1770 году отличился у стен приморской крепости Наварин, которая сдалась после 6-дневной бомбардировки. За участие в осаде крепости и организацию артиллерийской подготовки штурма награждается орденом Святого Георгия 3-й степени.

В Хиосском и Чесменском морских сражениях, проходивших 24-26 июня 1770 года, И.А. Ганнибал являлся начальником артиллерии соединенной русской эскадры и находился на борту флагманского корабля “Евстафий”. После его взрыва 24 июня Ганнибал уцелел, был спасен моряками и продолжал участвовать в бою. Накануне Чесменского сражения он руководил изготовлением брандеров, которые подожгли корабли турецкого флота.

В 1772 году И.А. Ганнибала производят в генерал-майоры, а еще через четыре года назначают генерал-цейхмейстером морской артиллерии. Со следующего года И.А. Ганнибал по Высочайшему указу становится членом Адмиралтейств-коллегии. В 1778 году он едет на юг строить город Херсон с крепостью. 1 января 1779 года его производят в генерал-поручики с сохранением должности генерал-цейхмейстера.

В 1784 году увольняется в отставку с присвоением звания генерал-аншефа. Скончался И.А. Ганнибал в Петербурге 12 октября 1801 года и был погребен на Лазаревском кладбище Александро-Невской Лавры.