、叶若夫和贝利亚时代，经历了克格勃各种时代的熏陶，这种老同志会起到很好的安抚作用，谢洛夫也十分尊重谢尔久科，给予这位第一副局长很大的敬意。
到了第二总局的总部，谢洛夫照例对前任局长表达了尊重，肯定了前任成绩的同时，表示自己来到第二总局一定要做出一番成绩，随后就把自己的想法说出来，“现在的克格勃已经到了一个新的历史阶段，我们的工作应该与时俱进，用更加科学的管理方法完成我们的工作，其中有些部门的工作已经移交给了第五总局，现在第二总局的工作更加的明确。”
用一种开门见山的方式，谢洛夫明确的告诉这些第二总局的部门长官，他第一步就是要改组第二总局的组织。
“谢洛夫副主席兼任我们总局的局长，说明了谢列平主席对他信任，大家对谢洛夫同志也不陌生，我们克格勃是最为看中成绩的地方，相信谢洛夫同志的成绩大家不是不知道。”谢尔久科中将出来打圆场道，“我们总局自然是支持新任局长的工作，相信我们在谢洛夫局长的领导下，不比对外情报总局要差！”
这种欢迎词让谢洛夫暗中咧嘴，国内防谍总局对第一第二的序列还有这么大的怨念啊。
“我尽量让国内防谍总局的工作再上一个台阶！”谢洛夫发现这个会议室的部门长官不像是其他总局的干部，比如第三总局，有时候自称军事管理总局、有时候自称第三总局。这里的干部似乎从来不自称第二总局，都是自称国内防谍总局，可想而知对第一第二的序列有多么的在意。
话不多说，谢洛夫说出早已经准备好的改组计划，对国内防谍总局的工作进行规划，国内防谍总局和对外情报总局的划分是一致的，对应全世界国家的全六个部门谢洛夫没有异议，第一部应对整个南北美洲、第二部应对英联邦帝国、第三部应对日耳曼国家、第四部应对包括法国和意大利在内的拉丁语欧洲、第五部应对欧洲之外的发达国家、第六部应对第三世界国家。
谢洛夫对这六个部门进行了行政规模的规划，设立部长一人、副部长两人、每个部五十个参谋、三百包括特勤和后备人员的特工。第七部的规划尤为重要，整个苏联的旅行社必须全部配合国内防谍总局的工作，第七部的人员至少每个人要会一门外语，应对不同国家的游客，往后的部门暂时不动，谢洛夫着重扩大了国内防谍总局第十二部的规模，这个部门是克格勃内部的反贪局，国内防谍总局的部门可以对整个苏联国内任何一个企业、任何时候进行调查，同时新成立三个部代替
…。。