Родился в Феодосии в семье армянского торговца. Учился у феодосийского архитектора Г. Коха, в Императорской Академии художеств у М.Н. Воробьева и Ф. Таннера (с 1833).
В 1838–1840 — пенсионер в Италии; посетил Германию, Францию, Испанию и Голландию (1840–1844). Живописец Главного морского штаба.
В 1845 году художник совершил путешествие в Турцию, Малую Азию, на Греческий архипелаг с экспедицией Ф.П. Литке. По возвращении жил и работал в Феодосии (почетный гражданин с 1880), подарил городу картинную галерею (ныне Феодосийская картинная галерея имени И.К. Айвазовского).
Иван Константинович Айвазовский сыграл большую роль в развитии русской маринистики. Художник написал около 6000 картин — морских пейзажей, видов приморских городов, картин, посвященных истории отечественного флота, батальных сцен. Создал ряд полотен на библейские сюжеты.