知识产权高等法院成立以前，对于知识产权确权行政诉讼和知识产权上诉案件，由东京高等法院的四个专门部门专属管辖，长期以来，这四个部门一直以“民事部”的形式存在，直到２００４年４月１日，改称为”知识产权部”第１～４部。同时，根据同日实施的《民事诉讼法》等法律修正案的规定，对有关专利权等诉讼采用由５名法官组成的大合议制（ＧｒａｎｄＰａｎｅｌｓｙｓｔｅｍ），随之东京高等法院创设了“第６特别部”作为知识产权大合议部。《知识产权高等法院设置法》颁布之后，以原有“知识产权部”四个分部为基础，再加上“第６特别部”，知识产权高等法院正式成立。
（一）机构设置
需要注意的是，虽然名为知识产权高等法院，但是知识产权高等法院并不是日本现有８个高等法院以外的第九个高等法院，而是隶属于东京高等法院的一个独立分部。在机构设置上，知识产权高等法院由两层架构组成，分别为知识产权高等法院事务局和审判部门，审判部以原有东京高等法院知识产权部四个部门为基础，仍划分为四个审判部门，再加上原“第６特别部”改组而成的“大合议部”，上述“１＋５”运作模式是知识产权高等法院机构设置的独特之处。日本最高法院负责任命知识产权高等法院的法官，并从中选择一人担任院长。但是在现实操作中，最高法院不仅从东京高等法院知识产权部的法官中选择任命，而且也从全国法院的法官中遴选适合于审理知识产权纠纷的法官任命为知识产权高等法院的法官。
依据日本《知识产权高等法院设置法》第５条，为了更好地处理知识产权高等法院的事务，知识产权高等法院设立事务局，事务局可以组织知识产权高等法院工作的全体法官举行法官会议，知识产权高等法院院长作为会议议长，知识产权高等法院审判事务的分配，以及其他司法行政事务，需要经过知识产权高等法院的法官会议决定，由知识产权高等法院院长负责。在知识产权高等法院中，除了院长以外，还有法官、处理有关知识产权案件的法院调查官、法院书记员、法院事务员等。此外，对应不同的案件，有时还有非专职的专门委员参与审理。
１．法官
在知识产权高等法院中，除了实行由３人组成的合议制度进行审判以外，对于需要尽早做出统一司法判断的重要案件，有时也实行由５人组成的合议制度进行审判（大合议）。
２．法院调查官
知识产权高等法院配备法院调查官，其职责在于遵照法官的命令，对有关发明专利，实用新型专利等审理案件进行有关技术方面的调查。此外，从２００５年４月开始，遵照法官的命令，为了在口头辩论诉讼期间，明确诉讼案件的内容，法院调查官还可以对当事人进行提问（日本《民事诉讼法》第９２条第８款）。
３．法院书记员
法院书记员处理诉讼的司法程序并做好记录、管理诉讼的进展、保管案件的记录、辅助法官调查法令及判例，以及执行其他法律所规定的审判事务。
４．法院事务员
法院事务员，是处理司法行政事务的职员。
５．专门委员
专门委员，是为了明确诉讼案件的内容或者为了诉讼审理能顺利进展，需要根据专业见识做出说明时，根据法院的决定，可以参加案件的审理的非专职职员（日本《民事诉讼法》第９２条第２款）。专门委员由最高法院负责任命，被任命者系在各个专门技术领域具有渊博的专业知识的大学教授或公共机关的研究人员等。
（二）管辖权划分
知识产权高等法院办理的案件，主要是不服日本特许厅知识产权确权案件的第一审行政诉讼，以及专业技术类民事案件的上诉审等。
１．请求撤销裁决诉讼
在知识产权确权（专利权、实用新型权、外观设计权、商标权）过程中，当事人不服日本特许厅（知识产权确权部门）的裁决而请求撤销裁决的诉讼，专属知识产权高等法院管辖。
２．民事上诉案件
在民事上诉案件中，有关发明专利权、实用新型专利权、半导体集成电路的电路配置利用权以及有关计算机程序著作权的诉讼案件，由知识产权高等法院负责审理案件，全国的此类诉讼案件都集中在知识产权高等法院。
其他民事诉讼案件，诸如侵犯外观设计专利权、商标权、著作权（计算机程序著作的著作权除外）、出版权、著作邻接权、植物新品种权和不正当竞争法损害商业利益的民事诉讼案件，经由各地方法院处理第一审，然后，由分布在全国的８个高等法院接受办理。其中，属于东京高等法院办理的案件均由知识产权高等法院负责审理。
３．其他案件
除了上述两项管辖权以外，知识产权高等法院负责办理的案件，还包括东京高等法院所办理的民事案件以及行政案件中有关知识产权专业知识为主要论点的纠纷案件。
（三）知识产权确权与侵权交叉案件的折中处理机制
对于知识产权确权与侵权交叉案件（这里指涉及商标权和专利权案件），即被告在被提起侵犯知识产权诉讼（民事侵权诉讼）过程中，为了不被认定为侵权行为并免于承担侵权责任，提出宣告权利人（原告）相关专利权、商标权无效的请求，由此在原本民事诉讼程序中穿插判定行政机关裁决有效性甚至行政诉讼的案件，国际上主要有两种不同做法：一是以美国为典型代表的部分国家，允许受案法院对权利有效性做出独立判断，并以此为基础进行侵权判定。也就是说，确权行政机关和法院都有权利确认涉案权利是否有效，这一做法的优势在于提高了知识产权案件的审理效率，但是对于审判人员的专业水平要求较高；二是以德国为典型代表的部分国家，采取严格的权利效力认定与侵权判定双轨制做法，即权利有效性由确权行政机关予以确认，受案法院无权针对涉案权利是否有效进行判断，一旦被告提起宣告权利无效的请求，诉讼程序即行中止，当权利有效性问题解决以后，诉讼程序重新恢复审理。与美国模式相比较，这一做法可以有效保证确权的同一性与确权质量，但是由于被控侵权人往往在诉讼过程中提起宣告无效请求，法庭又不能对权利有效性予以判断，因此诉讼效率较低，更为重要的是，相些权利的市场价值极有可能消耗在旷日持久的诉讼过程中。
作为传统大陆法系国家，日本立法最初对这一问题基本沿袭了德国模式，其原有知识产权诉讼机制并不允许法院进行权利有效性的判定，但是随着实践的发展，这一状况开始出现变化。２０００年４月，日本最高法院在其审理的“富士通ＶＳ德州半导体有关债务不存在确认诉讼案”中，开创性地确认法院可以在专利侵权诉讼中就被告对专利无效抗辩进行认定。这一具有里程碑意义的案例推翻了过去日本审理专利侵权等民事案件的法院绝对不能处理专利无效抗辩或请求的做法。为了保证上述两机构在权利有效性的认定中不会出现相互矛盾的情况，日本相关立法也进行了一些变通。一方面，提高受案法院的专业水平。知识产权高等法院成立以后，除了设立技术调查法官并允许其参加诉讼程序以外，还成立了专门委员制度。根据《日本民事诉讼法》第９２条之２规定，专门委员是指为了明确案件内容或者为了使诉讼能够顺利进展，需要其依据专业知识所处必要说明，因此由法院确定参加到知识产权案件的审理中的人员（类似于技术咨询专家）。通过技术调查官和专门委员制度，知识产权高等法院专业化程度得到了较大幅度地提升，进一步保证了其所进行的权利有效性判定与确权行政机构基本一致。另一方面，为了避免获得不一致裁判，日本立法者在法律制度层面建立法院与行政机关资讯交换制度。当专利侵权诉讼提起时，法院必须通知特许厅长官，诉讼程序终结时也是如此。特许厅长官在接到法院通知后，必须通知法院当事人是否在特许厅提起了无效审判的请求以及是否有无效审决的结果。法院得知该系争专利有无效审判提出后，可以将当事人提出的书面攻击与方法等资料通知特许厅，特许厅审判官可以向法院调阅相关资料。自此之后，日本特许厅和受理侵权案件的法院都可以对权利的有效性做出独立判断，知识产权案件的审理效率得到大幅度提高。