Эфраим Маркович Склянский родился 31 июля (12 августа) 1892 г. в Фастов Киевской губернии в мещанской семье. Еврей
С 1899 года семья жила в Житомире.
1911 г. - окончил с золотой медалью Житомирскую гимназию
1916 г. - окончил медицинский факультет Киевского университета Св. Владимира. С июля 1913 года — член РСДРП, пропагандист Киевского комитета партии.
В армии с 1916 года: солдат запасного батальона, затем — зауряд-врач 149-го пехотного Черноморского полка.
После Февральской революции: в марте был избран председателем солдатского комитета 38-й пехотной дивизии и членом комитета 19-го армейского корпуса, в апреле — председатель 2-го армейского съезда, с мая — председатель армейского комитета 5-й армии Северного фронта. Член Двинского комитета РСДРП(б).
С октября 1917 года в Петрограде, делегат II Всероссийского съезда Советов, член Президиума съезда от фракции большевиков. Член Военно-революционного комитета Петроградского совета.
Комиссар Главного штаба и Ставки Верховного главнокомандования в Могилёве. В марте-сентябре 1918 года член Высшего военного совета РСФСР. С 6 сентября член, а с 22 октября 1918 года заместитель председателя РВСР, с 1923 года — РВС СССР. По воспоминаниям П. Дыбенко, неоднократно применял в Красной армии децимацию (то есть расстрел каждого десятого красноармейца), для самовольно бежавших со своих боевых позиций.
В 1920—1921 гг. член СТО и коллегии наркомата здравоохранения РСФСР.
11 марта 1924 года снят со всех военных постов. Троцкий писал: "Склянский был смещён. На его место был назначен Фрунзе, командовавший до того войсками на Украине. Фрунзе был серьёзной фигурой. Его партийный авторитет, благодаря каторжным работам в прошлом, был выше, чем молодой ещё авторитет Склянского. Фрунзе обнаружил, кроме того, во время войны несомненные способности полководца. Как военный администратор он был несравненно слабее Склянского".
В апреле 1924 года назначен председателем правления треста "Моссукно" (Объединённые государственные фабрики тонких сукон Московского района ВСНХ). В мае 1925 года был направлен в служебную командировку в Германию, Францию.
Сталин предложил послать Склянского в Америку председателем Амторга; "Это пост большой. С Америкой дипломатических отношений нет. Там нет ни полпредства, ни торгпредства. Есть Амторг — торговая миссия, которая торгует. На самом деле она заменяет и выполняет функции и полпредства, и торгпредства, и базы для всей подпольной работы Коминтерна и ГПУ. Торговые функции её тоже важны. […] Тут нужно много дипломатии и умения."
.Назначен председателем Амторга и уехал в Америку.
27 августа 1925 г. на озеро Лонглейк, штат Нью-Йорк, США утонул, катаясь на лодке, вместе со своим предшественником на посту в Амторге, Исаем Хургиным.
Лев Троцкий: "Переплыв океан, он утонул в озере. Выйдя невредимым из Октябрьской революции, он погиб на мирной прогулке. Такова предательская игра судьбы."
По мнению Б. Г. Бажанова, Склянский был убит по приказу Сталина.
Урна с прахом похоронена 20 сентября 1925 года на Новодевичьем кладбище (район Хамовники), по утверждению советолога Джорджа Урбана, Сталин отказал в захоронении его праха в Кремлёвской стене.
Член ВЦИК и ЦИК. Делегат VIII, X, XII съездов компартии.
Жена (с 1917 г.) Вера Осиповна Склянская (1897 г.р.), во втором браке замужем за В. Б. Ваксовым (1896—1937), в 1938 г. была арестована и осуждена, в 1942 г. выпущена на свободу, в 1955 г. реабилитирована
В томе 10 "Истории Российского государства" перечислены 10 главных организаторов победы красных в гражданской войне в порядке исторической важности (исключая бесспорно самых важных В. Ленина и Л. Троцкого). В этом списке Склянский идет под № 1:
Улицы Склянского в городах Родники, Вичуга и посёлке имени Цюрупы.
Купавинская фабрика имени Склянского (до 1938 года).
Ленинградская пехотная школа имени тов. Склянского (16 сентября 1925 по 28 января 1938)
В томе 10 "Истории Российского государства" перечислены 10 главных вождей, противостоявших красным в гражданской войне, в порядке исторической важности (исключая Алексея Каледина, Лавра Корнилова и Петра Краснова, выбывших в начале гражданской войны - первые двое погибли, а Краснов дискредитировал себя сотрудничеством с немцами);