Иван Александрович Колышкин родился 8 (21) августа 1902 года в деревне Крутец Рыбинского района Ярославской области в крестьянской семье. Окончил 4 класса сельской школы. С 1919 года работал на речном транспорте: матрос, кочегар парохода, помощник шкипера баржи.
В Рабоче-Крестьянском Красном Флоте с ноября 1924 года служил срочную службу краснофлотцем, рулевым, старшиной на катере «Волна», затем стал командиром отделения рулевых Балтийского флота.
В 1929 году окончил курсы при Военно-морском училище имени М.В. Фрунзе и стал командиром флота, в 1932 году окончил основной курс Военно-морского училища, в 1935 - Курсы усовершенствования командного состава подводного плавания.
С октября 1930 года служил на подводных лодках - командиром торпедной группы. С ноября 1933 года - командир боевой части на подводной лодке «Декабристе». С января 1935 года - помощник командира подводной лодки «Л-2», а с сентября 1935 года - в той же должности на подводной лодке «Д-1» на Севере. С мая 1937 года командовал подводными лодками «Щ-404», а с апреля 1938 года – командир лодки «Декабрист».
И.А. Колышкин - мастер подводного плавания в условиях Крайнего Севера. Первым на флоте выполнял дальние походы, в том числе к берегам архипелага Новая Земля. Осваивал плавание подо льдами. За эти достижения одним из первых подводников-североморцев награждён орденом Красной звезды.
С июля 1938 года - командир дивизиона подводных лодок Северного флота.
22 июня 1941 года. В этот день командир дивизиона бригады подлодок Северного флота капитан 3-го ранга И.А. Колышкин вышел в свой первый боевой поход на подводной лодке «Щ-401». С начала войны по январь 1942 года подводные лодки дивизиона под командованием капитана 2-го ранга И.А. Колышкина потопили 8 транспортов и сторожевых кораблей противника общим водоизмещением 72,5 тысячи тонн. Лично выполнил несколько боевых походов и участвовал в потоплении большинства вражеских кораблей, уничтоженных его дивизионом.
Указом Президиума Верховного Совета СССР от 17 января 1942 года за успешное командование вверенным дивизионом и проявленные мужество и героизм Колышкину Ивану Александровичу присвоено звание Героя Советского Союза с вручением ордена Ленина и медали «Золотая Звезда» (№ 655). Он стал первым Героем Советского Союза из моряков-подводников, удостоенным этого звания во время Великой Отечественной войны.
В апреле 1942 года И.А. Колышкин участвовал в последнем походе подводной лодки «Щ-421».
С января 1943 года и до конца войны И.А. Колышкин - командир бригады подводных лодок Северного флота. Подводники его бригады с апреля 1943 года по май 1945 года потопили 34 транспорта, 1 танкер и 16 боевых кораблей противника, выполнили 14 минных постановок, на которых подорвались и затонули ещё 5 транспортов и кораблей врага. Под его руководством бригада 24 июля 1943 года была награждена орденом Красного Знамени, став первым в советском ВМФ Краснознамённым соединением подводных лодок. А 3 ноября 1944 г. она была награждена орденом Ушакова 1-й степени, и стала первым, и до сих пор единственным, дважды орденоносным соединением подводных лодок в отечественном Военно-Морском флоте.
После Победы контр-адмирал И.А. Колышкин продолжал службу в Военно-Морском флоте, командовал бригадой. С марта 1947 года - начальник отдела кадров Военно-морских сил в Главном управлении кадров Советской Армии. В 1950 году окончил Высшую военную академию имени К.Е. Ворошилова. С сентября 1950 года - начальник Высшего военно-морского училища имени П.С. Нахимова в Севастополе.
С декабря 1953 года вновь служил в центральном аппарате ВМФ: заместитель начальника 2-го отдела - заместитель начальника управления боевой подготовки подводных сил в Управлении боевой подготовки Главного штаба ВМФ СССР, с июня 1955 года - уполномоченный, с августа 1957 года - старший уполномоченный, с сентября 1958 года - заместитель начальника Управления государственной приемки кораблей ВМФ СССР.
С марта 1959 года - в отставке по состоянию здоровья. Жил в Москве. Написал книгу «В глубинах полярных морей», выдержавшую несколько изданий.
Иван Александрович Колышкин скончался 18 сентября 1970 года. Похоронен в Москве на Новодевичьем кладбище.
Именем Ивана Александровича Колышкина были названы плавбаза подводных лодок Северного флота, суда Министерства рыбного хозяйства СССР и Министерства речного флота РСФСР, улицы в городах Ярославле, Заозёрске, Североморске, Курятьево и Рыбинске. В городе Ярославле в музее школ № 41 и № 55 создана экспозиция памяти И.А. Колышкина.