Инициатором его создания и первым главным редактором был Константин Еремеев. Первоначально журнал выходил как приложение к «Рабочей газете», которое бесплатно рассылалось подписчикам вместе с воскресными номерами. Но спустя несколько месяцев приложение «окрепло» и превратилось в целый журнал.
В «Крокодиле» печатались В. Маяковский, В. Катаев, М. Кольцов, И. Ильф, Е. Петров и др.
Журнал долгие годы был главным юмористическим изданием страны. К сожалению, из-за недостатка финансирования в 2000 году «Крокодил» пришлось закрыть. Предпринимались попытки возродить издание, но они не увенчались успехом.