司马相如被汉武帝任命为郎中后，从此开始了他做官写赋两不误的生涯。汉武帝的第一任皇后陈阿娇被贬居长门宫，愁闷悲思，听说司马相如所写辞赋很受武帝喜爱，便奉上黄金百斤相請，司马相如为她做了《长门赋》。据说武帝读此赋后，大为感动，陈皇后因此重新得宠，可见相如之赋在宫中的走红。辛弃疾在《摸鱼儿》中写道：“长门事，准拟佳期又误，峨眉曾有人妒。千金纵买相如赋，脉脉此情谁诉？”指的就是这件事。《长门赋》开了骈体宫怨题材之先河，将离宫内外的景物同人物的情感有机的结合在一起，以景写情，情景交融，是司马相如在艺术上的新贡献。
司马相如担任郎官的几年，正好朝廷派唐蒙前往西南，负责打通夜郎（今贵州西部及北部）以及夜郎西部的僰中（以四川宜宾为中心的川南和滇东北部一带）的通道。唐蒙为此征发了巴郡、蜀郡的官兵上千人，还征调转运粮食的运输人员一万多人。有的当地首领不服，唐蒙就用战时军法杀死他们，巴蜀百姓都十分惊恐，蓄谋造反。
武帝知道情况后，连忙派司马相如前去责备唐蒙，同时向巴蜀百姓说明，唐蒙所为不是朝廷的意思。司马相如写了《谕巴蜀檄》的檄文，向巴蜀民众和太守说明，朝廷派唐蒙前往西南，是为了安抚归顺的西南各蛮夷小国，而不是要讨伐，唐蒙的一些做法并非皇上的本意，希望老百姓不要恐慌，积极配合朝廷的政策。该檄文的公布，一时稳定了当地民众骚动不安的情绪。
然后，司马相如返回京城报告。当时，唐蒙已经打通了通往夜郎的道路，紧接着就开始修筑通往西南夷的道路，因此征发巴、蜀、广汉等地的士兵几万人。路修了两年未修成，可是士兵积劳成疾，死伤大半，耗费的钱财更是数以亿计。蜀地的民众和负责工程的官员都认为，修筑西南夷通道得不偿失。
这时夜郎西边的邛、莋等地的君长听说南夷已经归附汉朝，而且得到了很多赏赐，都动心了，也想归附汉朝，请求朝廷在自己的土地上设置官吏，得到与南夷一样的待遇。面对种种复杂情况，武帝不知该如何处置西南事务，便向司马相如征求意见。司马相如说：“这些小国都靠近蜀郡，与中原的交通也很方便。本来在秦朝的时候，它们曾经与中原来往频繁，并设置了郡县，汉朝建立之后才废除。如果能重新开通，设置郡县，那可是有百利而无一害，价值要超过南夷。”武帝采纳了司马相如的意见，任命他为中郎将，持节出使西南夷。
司马相如由副使王然于、壶充国、吕越人陪同，乘坐四辆传车到了蜀郡，可谓衣锦还乡。蜀郡太守和下属都到郊外迎接，县令亲自背着弓箭在前面引路，蜀人欣然围观，都觉得归附汉朝是无上的光荣。于是，卓王孙和临邛各位父老都去拜见司马相如，恭恭敬敬地献上牛、酒表示友好。而司马相如也彬彬有礼地表示感谢，显得大方而有气概。卓王孙见了，感慨万千，后悔没有早一点把女儿嫁给司马相如，为了挽回过错，又分给他女儿很多财产，与分给儿子的一样多。
司马相如利用当地的财物来拉拢和收买西夷，当地的君长都主动请求臣服汉朝。派人拆除了旧的边关，扩展了国家的边关，向西至沫水（隋唐后改为大渡河）、若水（今雅砻江），南至牂牁江（今北盘江或都江）。并打通灵山道路，在孙水修筑桥梁，以方便邛、莋人通行。然后返回长安汇报，武帝对司马相如的外交成果很满意。
但很多蜀郡长者和朝廷大臣认为开通西南夷没有用处，完全是劳民伤财。于是司马相如又做了一篇《难蜀父老》的散文赋，借老人诘难使者，双方的应答来阐明天子的旨意，强调出使西南夷的目的，让百姓明白皇帝的用心良苦。其中有一段著名的话：“世上必有非常之人，然后有非常之事；有非常之事，然后有非常之功。非常者，就是想法、做法与普通人不同。因此，当非常开始时，黎明百姓会感到恐惧；大功告成后，百姓又会乐在其中。”这里的“非常之人”显然是对武帝的赞颂之词。使者最后说道：“有为的君王往往以勤奋开始，以收获告终。此次受命于天，取得的成效就在眼前，为此而增添泰山封土，增加梁父山禅礼。到那时，鸾凤齐鸣，雅颂高奏，德同五帝，义比三皇。凡夫俗子能理解这些吗？这就好像凤鸟翱翔于廖廓，张网补雀者还在紧盯着湖沼。岂不是可悲可叹。”那些来诘难的士绅听了不知所措，忘了他们此行的目的，连声说：“高尚啊，朝廷的圣德正是我们愿意听到的，百姓即使辛苦，也愿意将这件事做到底。”
汉武帝开疆拓土的宏伟事业与司马相如铺排壮丽的完美辞章可谓相得益彰，司马相如对促进中国的统一和西南地区的经济发展作出了重要贡献，至今成都北门仍有驷马桥，就是纪念司马相如对开发西南所作贡献而命名。