Американская корпорация звукозаписи (ARC) была основана в 1929 году в результате слияния нескольких звукозаписывающих компаний. В течение следующих нескольких лет компания росла, приобретая в 1934 году другие бренды, такие как Columbia Phonograph Company, в том числе её дочернюю компанию Okeh Records.
17 ноября 1987 года Sony Corporation of America (SCA, нью-йоркская «дочка» Sony, созданная как зонтичная компания для управления операциями и активами японской корпорации на территории Северной Америки) приобрела CBS Records (звукозаписывающее подразделение CBS, сотрудничавшее в то время с такими звёздами, как Майкл Джексон) за $2 млрд. Согласно условиям сделки, с 1 января 1988 года SCA получила переходную 3-летнюю лицензию на торговую марку «CBS», и по истечении этого срока переименовала приобретённую компанию в Sony Music Entertainment.
В августе 2004 года Sony создала совместное предприятие с Bertelsmann путём объединения Sony Music и Bertelsmann Music Group (BMG) в Sony BMG Music Entertainment. Через 4 года было объявлено, что Sony готова выкупить у Bertelsmann её долю в 50 % акций, и к 1 октября 2008 года сделка была завершена, а компанию вновь переименовали в Sony Music Entertainment.
Компания объединяет более 200 лейблов, многие из которых стали легендарными за долгое время своей успешной работы — это Columbia, RCA, Arista, Epic и другие. Подробнее в статье Список лейблов Sony Music.
Sony Music (и лейблы, приобретённые ею) стала родным домом для знаменитых артистов XX века: Элвиса Пресли, Майкла Джексона, AC/DC, Boney M., Eruption, Milli Vanilli, Адриано Челентано, Майлза Дэвиса, Боба Дилана, Барбары Стрейзанд, Селин Дион, Оззи Осборна и множества других. Сегодня ситуация не изменилась, с Sony Music работают Kasabian, Аврил Лавин, Бритни Спирс, Бейонсе, Алиша Киз, Леона Льюис, Дайдо, Пинк, Шакира, One Direction и другие.
Среди российских артистов, являющихся резидентами лейбла — Денис Мацуев, Диана Арбенина, Сергей Лазарев, GONE.Fludd, Kizaru, DK и др.
В марте 2022 года компания объявила о приостановке деятельности в России. В сентябре 2022 года компания заявила о полном уходе из России.