Архитектор-художник, реставратор. С 1910 г. - член-корреспондент Императорского Московского Археологического Общества, с декабря 1911 г. - действительный Член. Являлся секретарём комиссии Общества по сохранению древних памятников. По поручению Московского Археологического Общества производил обмеры с памятников зодчества в г. Ростове Великом, Ярославле, с Сухаревой башни, с храмов села Коломенского и храма села Бесед. В 1918-1926 г. руководил реставрацией сооружений Московского Кремля. Преподавал в ВХУТЕМАСе. По его инициативе был основан Государственный научно-исследовательский музей архитектуры им. А.В. Щусева. С 1939 г. - действительный член Всесоюзной Академии архитектуры. Профессор. Автор ряда проектов домов в Москве.
Скончался И.В. Рыльский 29 декабря 1952 года, похоронен в Москве на Новодевичьем кладбище (3 уч. 3 ряд).