Политический сыск, хотя и оформлялся в рамках министерств (Министерства Внутренних Дел, Министерства полиции, затем опять МВД), но далеко не ограничивался ими. Об этом свидетельствуют и секретные комитеты 1805 и 1807 годов, которые занимались вопросами «La haute police» в общегосударственном масштабе . В 1815 году император переименовал Борисоглебский драгунский полк в жандармский, а затем рассредоточил его небольшими группами по разным армейским частям, где они выполняли обязанности военной полиции, в том числе и осведомительские. Меры, предпринятые Александром I по формированию сети военной полиции, объясняются тем, что императору начали поступать тревожные сообщения о проявлениях вольнодумства среди офицеров и нижних чинов после их возвращения из стран Западной Европы. Но в раскрытии кружков будущих декабристов жандармы никакого участия принять не сумели.

Кроме жандармских подразделений полицейские функции выполнял Корпус внутренней стражи, образованный в 1810 году. В его составе 1 февраля 1817 года была организована конная городская полиция – жандармы внутренней стражи – для поддержания порядка в столичных. Губернских и припортовых городах. После волнений в Семеновском полку на жандармов, как на военную полицию Александр I указом от 4 января 1821 года возложил надзор за настроениями в войсках.

Такая система организации полиции с ее разобщенными, разрозненными звеньями, не имевшими единого руководящего центра и своего постоянного исполнительного органа (жандармы существовали независимо от системы политической полиции), была характерна для первой четверти ХIХ века.

Перед Николаем I стояла задача: покончить с организационной неразберихой и многообразием органов политического сыска, усовершенствовать всю политическую организацию. Обстановка в стране после подавления восстания декабристов способствовала тому, чтобы процесс реорганизации полиции протекал в ускоренном темпе. К составлению проектов в высших правительственных кругах приступили уже в декабре 1825 года, и в начале следующего года Николаю был представлен проект генерал-адъютанта А.Х.Бенкердорфа, будущего шефа жандармов и начальника Ш отделения.

Проект Бенкендорфа наметил общие начала, которые должны были лечь в основу нового органа «высшей» полиции: строгая централизация и четкая организация всех его звеньев в центре и на местах, рассосредоточение жандармов по всем городам и армии и т.д. Этот проект был дополнен мартовской запиской 1826 года М.Я.фон Фока, которая касалась конкретных вопросов будущего устройства органа политической полиции.

Проекты Бенкендорфа и Фока были лишь частью той обширной подготовительной работы по созданию Ш отделения, которая велась в правительственном аппарате. И хотя неизвестна ни точная датировка, ни имена других проектов, существующих параллельно с этими, их общее направление и идеи тесно переплетались с основными положениями вышеупомянутых проектов. Все проекты, записки и предложения всесторонне рассматривались лично Николаем I и его ближайшими сановниками.

Собственная его императорского величества канцелярия возникла в конце ХVШ столетия, но лишь в царствование Николая I приобрела роль высшего государственного учреждения. Канцелярия состояла из шести отделений: I отделение, собственно канцелярия, занималось рассмотрением отчетности министерств, составлением указов, местной администрацией, подбором служащих центрального бюрократического аппарата; П отделение производило кодификацию законодательства; IV ведало благотворительными учреждениями; V отделение разрабатывало реформы о государственных крестьянах; VI отделение занималось реформой управления Кавказом. Каждое отделение состояло из канцелярии и нескольких экспедиций.

Итак, император решил не возрождать непопулярное Министерство полиции. Для повышения авторитета политической полиции Николай I именным высочайшим указом от 3 июля 1826 года ввел ее в состав Ш отделения Собственной его императорского величества канцелярии. Начальником (главноуправляющим) нового учреждения монарх назначил шефа жандармов Бенкендорфа. Определяя задачи преобразования Ш отделения, император писал:

«Предметами занятий сего третьего отделения собственной моей канцелярии назначаю:

1. Все распоряжения и известия по всем вообще случаям высшей полиции.

2. Сведения о числе существующих в государстве различных сек и расколов.

3. Известия об открытиях по фальшивым ассигнациям, монетам, штемпелям, документам и проч., коих розыскания и дальнейшее производство остаются в зависимости министерств финансов и внутренних дел.

4. Сведения подробные о всех людях, под надзором полиции состоящих, равно и все по сему предмету распоряжения.

5. Высылка и размещение людей поднадзорных и вредных.

6. Заведывание наблюдательное и хозяйственное всех мест заточения, в кои заключаются государственные преступники.

7. Все постановления и распоряжения об иностранцах, в России проживающих, в пределы государства прибывающих и из оного выезжающих.

8. Ведомости о всех без исключения происшествиях.

9. Статистические сведения, до полиции относящиеся».

Особенную канцелярию монарх изъял из Министерства внутренних дел и перевел в Ш отделение, а ее главе М.Я.фон Фоку дал должность директора канцелярии Ш отделения, которую он усердно исполнял до 1831 года.Основные положения указа 3 июля 1826 года продолжила и развивала записка от 14 июля о подразделении Ш отделения на 4 экспедиции(пятая с 1828года). Первая (секретная) экспедиция наблюдала за «общественным мнением», осуществляла политический сыск, следствие и контроль исполнения наказания. Вторая экспедиция занималась расколом, сектантством, должностными и уголовными преступлениями, кроме политических, а также прошениями и жалобами. В ее ведении находились Секретный дом Алексеевского равелина Петропавловской крепости, Шлиссельбургская крепость, Суздальский Спасо-Ефимьевский монастырь и другие места заточения политических преступников. Третья экспедиция следила за проживавшими в России иностранцами. Четвертая экспедиция занималась крестьянскими делами, в том числе подавлением крестьянских волнений, а также сбором сведений о происшествиях, случившихся на территории Российской империи. Пятая экспедиция, созданная в 1828 году, ведала наблюдением за периодическими изданиями и цензурой.

Записка определяла также штат Ш отделения. Новый орган полиции целиком базировался на Особенной канцелярии Министерства Внутренних Дел. Общее число чиновников должно было составить 16 человек, не считая начальника и управляющего отделением: по 3 человека в каждой экспедиции (в первой- 4 чел.), экзекутор, журналист и их помощник. Каждая экспедиция во главе со своим начальником (экспедитором) подчинялась непосредственно управляющему отделением, а через него – начальнику. Общие расходы по экспедициям составляли 41 500 руб. в год (23 500 – на жалованье чиновникам, 6 000 - на канцелярские расходы и 12 000 – на наем квартиры, освещение и т.п.). Внештатные расходы, в т.ч. и на агентуру, определялись Николаем I.