• 企业400电话
  • 微网小程序
  • AI电话机器人
  • 电商代运营
  • 全 部 栏 目

    企业400电话 网络优化推广 AI电话机器人 呼叫中心 网站建设 商标✡知产 微网小程序 电商运营 彩铃•短信 增值拓展业务
    powershell网络蜘蛛解决乱码问题

    抓取(爬取)网上信息的脚本程序,俗称网络蜘蛛。
    powershell中自带了这样的两个命令,【Invoke-WebRequest】和【Invoke-RestMethod】,但这两个命令有时候会乱码。

    现在转帖分享, 某个【歪果仁】写的脚本。来源于 墙外出处: https://gist.github.com/angel-vladov/9482676

    核心代码

    function Read-HtmlPage {
    param ([Parameter(Mandatory=$true, Position=0, ValueFromPipeline=$true)][String] $Uri)
    
    # Invoke-WebRequest and Invoke-RestMethod can't work properly with UTF-8 Response so we need to do things this way.
    [Net.HttpWebRequest]$WebRequest = [Net.WebRequest]::Create($Uri)
    [Net.HttpWebResponse]$WebResponse = $WebRequest.GetResponse()
    $Reader = New-Object IO.StreamReader($WebResponse.GetResponseStream())
    $Response = $Reader.ReadToEnd()
    $Reader.Close()
    
    # Create the document class
    [mshtml.HTMLDocumentClass] $Doc = New-Object -com "HTMLFILE"
    $Doc.IHTMLDocument2_write($Response)
    
    # Returns a HTMLDocumentClass instance just like Invoke-WebRequest ParsedHtml
    $Doc
    
    #powershell 传教士 转帖并修改的文章 2016-01-01, 允许再次转载,但必须保留名字和出处,否则追究法律责任
    
    }

    原文函数

    function Read-HtmlPage {
      param ([Parameter(Mandatory=$true, Position=0, ValueFromPipeline=$true)][String] $Uri)
    
      # Invoke-WebRequest and Invoke-RestMethod can't work properly with UTF-8 Response so we need to do things this way.
      [Net.HttpWebRequest]$WebRequest = [Net.WebRequest]::Create($Uri)
      [Net.HttpWebResponse]$WebResponse = $WebRequest.GetResponse()
      $Reader = New-Object IO.StreamReader($WebResponse.GetResponseStream())
      $Response = $Reader.ReadToEnd()
      $Reader.Close()
    
      # Create the document class
      [mshtml.HTMLDocumentClass] $Doc = New-Object -com "HTMLFILE"
      $Doc.IHTMLDocument2_write($Response)
      
      # Returns a HTMLDocumentClass instance just like Invoke-WebRequest ParsedHtml
      $Doc
    }

    PowerShell function you can use for reading UTF8 encoded HTML pages content. The built in Invoke-WebRequest and Invoke-RestMethod fail miserably.

    上一篇:你应该选择 Powershell 的10个理由(抛弃 cmd)
    下一篇:Powershell 脚本数字签名实现方法
  • 相关文章
  • 

    © 2016-2020 巨人网络通讯 版权所有

    《增值电信业务经营许可证》 苏ICP备15040257号-8

    powershell网络蜘蛛解决乱码问题 powershell,网络,蜘蛛,解决,