Архитектор, градостроитель, теоретик и практик советского конструктивизма, действительный член Академии архитектуры СССР (1939). C 1921 г. преподавал в МВТУ и во ВХУТЕМАСе, разрабатывал вопросы архитектурной композиции. В 1926-1930 годах издавал журнал "Современная архитектура". В 1930-е годы принимал участие в ряде конкурсных проектов, в том числе и в конкурсах на Дворец Советов; возглавлял группу проектировщиков, работавшую над проектом районной планировки Южного берега Крыма. В годы Великой Отечественной войны возглавлял в Академии архитектуры сектор типизации и индустриализации строительства, а в 1943 году спроектировал и построил жилой поселок для горняков Подмосковного угольного бассейна. В 1943-1944 гг. создал проект восстановления Севастополя. Самый известный проект Гинзбурга - "Дом Наркомфина" на Новинском бульваре в Москве. Другие заметные проекты (сомостоятельно и в соавторстве):
"Жилой дом Госстраха" в Москве;
"Проект застройки Котельнической и Гончарной набережных" в Москве
"Памятник-обелиск на Сапун-горе" в Севастополе;
"Памятник-обелиск на горе Митридат" в Керчи... Автор книг "Ритм в архитектуре" (1923), "Жилище: Опыт пятилетней работы над проблемой жилища" (1934).
Скончался М.Я. Гинзбург 7 января 1946 года, похоронен в Москве на Новодевичьем кладбище (4 уч. 3 ряд).