Родился в семье провизора. В семье было 5 детей, двоих из которых звали Саша. Блондина называли «Белый», брюнета — «Черный» — отсюда и псевдоним. Он стал гимназистом только в 10 лет, когда был крещён отцом и смог поступить учиться вне «процентной нормы» для евреев. Неоднократно отчислялся за неуспеваемость и обучения не закончил. Бежал из дома, скитался без всяких средств к существованию — мать и отец перестали отвечать на его письма. Случайно стал героем одной журналисткой публикации, после которой его взял к себе в дом Константин Роше, житомирский чиновник, известный своей благотворительностью. Был призван на воинскую службу. Оказался в местечке Новоселицы на границе с Австро-Венгрией, поступил работать в местную таможню.

Вернувшись в Житомир, начинает сотрудничать в газете «Волынский вестник», но та вскоре закрывается. Перебирается в Петербург опять же к родственникам Роше. Служит чиновником на Варшавской железной дороге, где сближается с непосредственной начальницей Марией Ивановной Васильевой, несмотря на разницу в положении и образовании. В 1905 году они заключают брак. И теперь Александр целиком отдаётся литературному творчеству. Первое же опубликованное стихотворение «Чепуха» получает широкую известность, расходится в списках по всей России. В 1906-1907 годах Александр Гликберг прослушал курс лекций в Гейдельбергском университете в Германии. В 1914 году уходит на фронт. Но в результате глубокой депрессии попадает в госпиталь, а затем продолжает службу в санитарной части. В марте 1917 года Временным правительством назначен заместителем комиссара Северного фронта. Октябрьскую революцию не принял, перебрался сначала в Прибалтику, а потом уехал в Германию. Некоторое время жил в Италии, в семье Леонида Андреева, будучи домашним учителем его детей, потом — Париж. В 1927 году он вошёл в группу эмигрантов, которая на паях приобрела земельный участок и основала русскую колонию в посёлке Ла-Фавьер в Провансе.

В творчестве Саша Чёрный оказался одним из самых ярких авторов сатирических журналов, таких как «Сатирикон». Его острые, меткие и беспощадные стихи постоянно запрещались цензурой и в значительной степени повлияли на развитие поэзии тех лет, в частности, на творчество раннего Маяковского. Создал ироническую маску интеллигента-обывателя — сборники стихов «Разные мотивы» (1906), «Сатиры и лирика» (1911); детские стихи. Всего детских стихов Саша Чёрный выпустил 25 книг. Написал поэму «Кому в эмиграции жить хорошо» (1931-1932), книга прозы «Солдатские сказки» (опубликована в 1933).

Умер от сердечного приступа. После пожара в местечке Ла Фавьер в Провансе, где он вытаскивал детей из огня.