大約在周朝時，廣州連年災荒，田野荒蕪，農業失收，人民不得溫飽。一天，南海的天空忽然傳來一陣悠揚的音樂，並出現五朵彩色祥雲，上有五位仙人，身穿五色彩衣，分別騎著不同毛色口銜稻穗的仙羊，降臨廣州。仙人把優良的稻穗贈給了廣州人，並祝願這一地區永無饑荒，祝罷仙人騰空飛逝，五隻仙羊化為石羊留在廣州山坡。從此，承仙之願，稻穗飄香，年年豐收，廣州便成為嶺南最富庶的地方。这就是广州有“五羊城”、“穗城”、“羊城”名称的由来。关于五仙降临的年代，有各种各类的说法。有人说发生于周夷王八年（即公元前887年），有人说五仙降临是南海人高固为楚威王相时候，是为战国时期。还有一说是，晋朝吴修为广州刺史，有五仙骑五羊背着五谷来到广州州治的厅堂上，吴修于是在厅堂上绘五仙人像以为祥瑞和纪念。据说今广州惠福西路的五仙观就是五仙降临之地，广州人在此为纪念五仙人专门修建了五仙观，在大殿内还有五仙和五羊的塑像。在今五仙观东侧，还有一块巨大的红砂岩似脚印状的凹石，被称为“仙人拇迹”（拇迹指脚印）。
在广州越秀山木壳岗上，有建于1959年的五羊石雕像。这是著名雕塑家尹积昌等根据五羊的传说创作的。雕像连基座高11米，共用130余块花岗石雕刻而成。体积约53立方米，仅主羊头部一块石料，就重达4 千余斤。五羊大小不一，主羊头部高高竖起，口中衔穗，回哞微笑，探视人间，余四只羊，环绕其身，或耍戏，或吃草，还有羊羔在吸吮母羊的乳汁。五羊姿态各异，造型优美，栩栩如生，情趣横溢，令人流连忘返，浮想联翩。据说当年雕像竣工时，曾有一些议论，有人提出既是五仙人骑的羊，怎会还有在吸奶的乳羊呢？其实仙人五羊都是美丽的神话，既是仙羊，无论大小，自有仙风仙骨。雕塑家发挥其超群的想象力，匠心独具。由历史传说而创作出来的五羊石雕经过40多年的历史检验，被誉为广州的城徽，为历史文化名城增色不少。1999年7月，五羊石雕被广州市政府列为文物保护单位。
版本一周夷上八年（公元前887年 ），广州曾一度出现连年灾荒田野荒芜，农业失收，民不聊生。一天，南海的天空忽然传来一阵悠扬的音乐，出现了五朵彩色祥云，上有五位仙人，身穿五色彩衣，分别骑着不同毛色的山羊，羊口衔着一茎六出的优良稻穗，降临楚庭。仙人把稻穗给了广州人，并祝愿此处永无饥荒。祝罢仙人腾空飞逝，五只仙羊化为石头留在广州山坡。从此，广州便成了岭南最富庶的地方。这就是广州有“五羊城”、“羊城”、“穗城”名称的由来。
版本二五仙降临的情形差不多，但传说中的时间是南海人高固为楚威王相的时候，即战国周显王时期。
版本三晋朝时，吴修为广州刺史，还未到任，有五仙人骑五色羊，背着五谷来到广州州治的厅堂上。吴修于是在厅堂上绘五仙人像以示祥瑞纪念，并且称广州为“五仙城”。现在的广州惠福西路五仙观据说就是五仙人降临之地，广州人为了纪念五仙人专门修建了五仙观，在大殿内还有五仙和五羊的塑像。