Необходимость покрытия дефицитов, а также чрезвычайные расходы по погашению временных выпусков кредитных билетов и по возобновившейся с 1881 г. постройке железных дорог, вынуждали приобретать средства путем новых займов, которых было заключено, с 1881 по 1886 г., на сумму более 600 миллионов рублей. Таким образом Бунге не удалось привести в равновесие государственный бюджет. Способ сведения росписей при нем ничем не отличался от прежнего порядка, но сама роспись получила большую полноту и ясность, вследствие включения в нее, в 1883 г., оборотов по железнодорожному фонду, в 1885 г. - выкупных платежей и расходов по выкупной операции. Все успешнее Н.Х. Бунге исполнил ту часть его программы, которая касалась улучшения податной системы и которую он всегда признавал важнейшей целью своего управления. Для достижения этой цели были понижены выкупные платежи на 12 миллионов рублей (с 1882 г.) и постепенно отменена, по указу 14 мая 1883 г., подушная подать. Благодаря этим мерам, с крестьян было снято налогов на 53 миллиона рублей, и хотя некоторая часть этой суммы опять пала на крестьян же, вследствие повышения питейного налога и превращения оброчного сбора с бывших государственных крестьян в выкупные платежи, в увеличенном размере, но это не могло уменьшить принципиальные значения отмены подушного налога, как меры, уничтожившей последний след рабства и открывшей путь к изменению паспортной системы, круговой поруки и иных неблагоприятных условий крестьянского строя. Понижение налогов с крестьян сопровождалось все большим привлечением к обложению других, более имущих классов населения, до тех пор изъятых от прямого обложения или недостаточно обложенных. В 1882 г. установлен налог с имуществ, переходящих безмездными способами (т. е. наследств и дарений), в 1885 г. - дополнительные сборы, 3-процентный и раскладочный, с торговых и промышленных предприятий, и 5-процентный налог на денежные капиталы; повышен поземельный налог и налог на недвижимые имущества в городах. Вводя необходимую уравнительность в податную систему, эти мероприятия, по мысли Бунге, должны были подготовлять почву для введения со временем подоходного обложения. К той же цели должно было клониться и учреждение особых местных органов финансового управления - податных инспекторов, на которых возложено было наблюдение за правильностью распределения прямых налогов и всестороннее изучение податных сил населения.

Заслуга реформирования податной системы, проведенного Бунге, является тем более высокой, что нужна была особая смелость, и даже самоотверженность, чтобы решиться на отмену налогов в такое время, когда бюджет страдал ежегодными крупными дефицитами. Финансовые мероприятия, направленные на покровительство промышленности, заключались в повышении ставок таможенного тарифа. При современном финансовом и экономическом положении России Н.Х. Бунге видел в таможенных пошлинах не только источник доходов и охрану промышленности, но и средство упрочения денежной единицы, путем возможного улучшения в нашу пользу платежного баланса. Почти ежегодно повышались пошлины по различным предметам ввоза и вывоза; наш таможенный тариф, получивший уже с 1877 г., когда было установлено взимание пошлин золотом, высокопошлинный характер, мало-помалу по многим статьям сделался запретительным.

В области развития доступного населению кредита министерство Бунге осуществило два важных мероприятия - устройство Крестьянского Поземельного банка (в 1882 г.), целью которого было постановлено содействие крестьянам в покупке земель, и учреждение (в 1885 г.) Дворянского банка, для выдачи ссуд дворянам на льготных условиях. В области улучшения денежной системы Н.Х. Бунге сделал относительно немного. Важнейшей мерой было осуществление указа 1 января 1881 г. об уплате государственному банку долга за временно выпущенные кредитные билеты, с целью изъятия их из обращения, причем только часть этого долга была уплачена деньгами, а на остальную сумму сдана банку нереализованная рента. В 1883 г., в видах привлечения монеты в обращение, Бунге внес в Государственный совет представление о разрешении сделок на золото и обращения звонкой монеты по курсу в платежах между казной и частными лицами. В этом представлении, не имевшем успеха, выразилось изменение взглядов правительства на способ восстановления металлического обращения. До Русско-турецкой войны оно не могло отрешиться от мысли о необходимости восстановить ценность кредитного рубля до al-pari; представление 1883 г. свидетельствует о решимости отказаться от прежнего воззрения.

С осени 1884 г. Бунге стал стремиться к увеличению сосредоточенного в государственном банке запаса золота, посредством передачи ему поступающей в таможенные платежи звонкой монеты (к 1 января 1895 г. было таким путем собрано 30 миллионов рублей, к 1886 г. - 74,7 миллионов рублей, к 1887 г. - 88,4 миллиона рублей) [4 c. 138].

С именем Н.Х. Бунге связано и начало коренного переворота в железнодорожной политике. С 1882 г. учреждается казенное управление в Екатерининской, Ливенской и Баскунчакской железных дорогах. Эти первые зачатки казенной железнодорожной сети начинают быстро развиваться, как на счет переходящего в руки казны частных железных дорог, так и путем постройки новых рельсовых линий на средства казны. По справедливому замечанию В. Судейкина , "ни один из бывших в России министров финансов не начинал своей деятельности при столь благоприятных условиях, как И.А. Вышнеградский.

В 1887 г. был огромный, небывалый урожай в России и плохой в Европе. Вывоз хлеба достиг пределов, до тех пор неслыханных. Последствием огромного вывоза было усиление доверия к России и повышение ее кредита на иностранных рынках. Его предшественником был произведен ряд реформ, в корне изменивших всю финансовую систему, а урожай произвел такие результаты, достижение которых требует напряженных усилий многих лет". Главнейшей задачей Вышнеградского было восстановление металлического обращения. Согласно его представлению, комитет финансов, в заседании 28 июня 1887 г., признал желательным стремиться к упрочению ценности рубля посредством размена его на золото по курсу, близкому к современному (1 рубль 50 копеек кредит за 1 рубль металлический), в том убеждении, что "предметом всяких мероприятий в отношении денежного обращения, может быть не восстановление полной номинальной ценности кредитного рубля, а лишь установление этой ценности настолько прочно, чтобы был положен предел дальнейшим сколько-нибудь значительным колебаниям". Журнал этого заседания был Высочайше одобрен и таким образом является моментом окончательного решения совершить реформу денежной системы путем девальвации. Составленный на этом основании проект разрешения сделок на звонкую монету остался, однако, без последствий, и Вышнеградский должен был ограничиться теми же подготовительными работами, к которым приступил уже его предшественник, т. е. продолжением скопления золотых запасов, необходимых для покрытия размена. Решив приобретать золото не займами, а покупкой, правительство должно было всеми мерами стремиться к тому, чтобы в казне имелись для того широкие свободные ресурсы и чтобы установился возможно более благоприятный расчетный баланс, как средство привлечения и удержания золота в стране.