在《巴黎公约》签署8年之后，巴黎联盟部分成员国于1891年签订了《马德里协定》。《马德里协定》作为《巴黎公约》体系下的一个专门条约，之所以能为地理标志商标提供更强的保护，就是因为美国没有参加该条约。但事实上《马德里协定》的对地理标志商标保护的提升也十分有限。
《马德里协定》为“货源标记”提供了保护，但没有直接规定“货源标记”的定义，而是通过第1条第1款间接界定了“货源标记”的含义：“凡带有虚假或欺骗性标记的商品，其标记系将本协定所适用的国家之一或其中一国的某地直接或间接地标作原产国或原产地的，上述各国应在进口时予以扣押。”学者们由此推论“货源标记”的定义为：作为商品来源国或来源地的一个国家或一个国家内一个地方的标记。
与《巴黎公约》类似，《马德里协定》主要通过边境措施保护货源标记。与《巴黎公约》不同的是，《马德里协定》将保护范围由“虚假标记”扩大至“虚假或欺骗性标记”。所谓“欺骗性标记”是指那些在字面上真实，但具有误导性的标记。由于美国等新世界移民国家有不少地方以欧洲地名命名，这一规定显然对新世界国家不利，这也是美国没有参加《马德里协定》的原因之一。
《马德里协定》第3条之二规定：“适用本协定的国家也承诺，在销售、陈列和推销商品时，禁止在招牌、广告、发票、葡萄酒单、商业信函或者票据以及其他任何商业信息传递中使用具有广告性质并可能使公众误认商品来源的任何标记。”这一规定不仅将地理标志商标的保护范围扩大到了“可能使公众误认商品来源的任何标记”，而且还将地理标志商标的保护领域扩大到了各种商业信息渠道。
特别值得注意的是《马德里协定》第4条对通用名称问题的特别规定：“各国法院应确定由于其通用性质而不适用本协定条款的名称。葡萄产品2的地区性产地名称不在本条款特别保留之限。”这一规定确立了地理标志商标保护的一个基本规则，即货源标记在什么条件下受到保护，特别是某个货源标记是否为通用名称，应当由提供保护的国家来决定。但另一方面，葡萄产品的地区性产地名称却被排除在该规则之外，即各国法院不得以判决的形式确认葡萄产品的地区性产地名称为通用名称，有的学者称之为对葡萄产品的“绝对保护”。11《马德里协定》对葡萄产品货源标记的额外保护构成了对其他产品的歧视，)可以看作葡萄酒和烈性酒地理标志商标受特别保护的源起。由于许多葡萄酒地理标志商标在新世界国家被当作通用名称使用，这一条款显然是美国等国家不能接受的。
《马德里协定》创始缔约国主要是法国、西班牙、瑞士和英国等欧洲国家，到2012年1月其缔约国仅为35个。由于缔约国数量有限，加上美国等重要贸易国拒绝加人，《马德里协定》在实践中的意义十分有限。