上海笔墨博物馆与上海书城只隔着一条马路，博物馆并不起眼，在热闹的福州路上走很容易错过，但进去后会发觉里面别有洞天。在弥漫着笔墨香的博物馆中，除了可以看到各种精美的毛笔和墨，还可以了解到它们的选材与制作、以及与笔墨有关的名人轶事，充分感受到笔墨文化的博大精深。
走进博物馆，一楼主要售卖笔墨，上楼就是展厅了。展厅不大，分左右中三个方向的橱窗展示，每个展台前还配有中英文语音介绍。展厅中间是珍品展示区，陈列着曹素功等老字号出品的墨中精品；右边一片主要展示中国书画墨，包括制作墨的材料、添加剂和模具等，还有一些精美的制成品。
左边展示了中国毛笔的历史及发展状况，陈列了制作毛笔的材料、工具和制成品等，还有相关的影像资料。另外还展示了许多名人所使用过的笔，比如吴昌硕、赵之谦、沈尹默、张大千、吴湖帆等书画大家。最值得一提的是鲁迅先生的“金不换”，据介绍这是鲁迅用笔中唯一一支买去尚未来得及使用的毛笔。
此外，还有两支毛笔格外显眼，它们的毫毛长达10厘米，称得上笔中之王。这是由当时八十多岁的李可染先生花了70年的时间，从千万根正冬北狼尾毛中挑出了足以做成两支毛笔的特长毫毛，正所谓“千万毛中拣一毫”，算得上是镇馆之宝了。
