Ipython使用指南

一、簡介

　　2001年，Fernando Perez為了得到一個更為高效的交互式Python解釋器而啟動的一個項目，IPython不僅僅是一個加強版的shell，他可以直接進行繪圖操作的GUI控制台，一個基於web的交互式筆記本，以及一個輕量級的快速並行計算引擎。

　　ipython是一個升級版的交互式python命令行工具.

二、ipython安裝

  一、在已有Python環境安裝

pip install ipython

　　等到命令執行完成后顯示successfully表示完裝成功，如下圖

　　

　　安裝完，在命令提示符下輸入ipython就可以啟動ipython了

　　其與原版python命令行工具不同在於ipython的提示符變成了in和out.

　　in為輸入命令的地方,out為命令執行完成后輸出的地方

　　

三、ipython常用操作

  一、tab鍵自動補全一些常用的方法

　　

　　1、常用命令

啟動：ipython/ipython qtconsole –pylab=inline 
Tab鍵自動補全

  二、系統命令

　　1、支持一些系統命令

    In [2]: pwd             # 顯示當前所在目錄
    Out[2]: '/root'
    
    In [3]: cd ..           # 返回當前目錄的上一級目錄
    /   

　　2、執行系統命令（!）

    In [6]: !ifconfig
    ens33: flags=4163<UP,BROADCAST,RUNNING,MULTICAST>  mtu 1500
            inet 192.168.81.10  netmask 255.255.255.0  broadcast 192.168.81.255
            inet6 fe80::a545:8b99:d507:4d0f  prefixlen 64  scopeid 0x20<link>
            ether 00:0c:29:95:d5:31  txqueuelen 1000  (Ethernet)
            RX packets 12851  bytes 9887304 (9.4 MiB)
            RX errors 0  dropped 0  overruns 0  frame 0
            TX packets 7172  bytes 1546188 (1.4 MiB)
            TX errors 0  dropped 0 overruns 0  carrier 0  collisions 0
    
    lo: flags=73<UP,LOOPBACK,RUNNING>  mtu 65536
            inet 127.0.0.1  netmask 255.0.0.0
            inet6 ::1  prefixlen 128  scopeid 0x10<host>
            loop  txqueuelen 1  (Local Loopback)
            RX packets 140  bytes 12132 (11.8 KiB)
            RX errors 0  dropped 0  overruns 0  frame 0
            TX packets 140  bytes 12132 (11.8 KiB)
            TX errors 0  dropped 0 overruns 0  carrier 0  collisions 0
    
    In [7]: !ip a
    1: lo: <LOOPBACK,UP,LOWER_UP> mtu 65536 qdisc noqueue state UNKNOWN qlen 1
        link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
        inet 127.0.0.1/8 scope host lo
           valid_lft forever preferred_lft forever
        inet6 ::1/128 scope host 
           valid_lft forever preferred_lft forever
    2: ens33: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP qlen 1000
        link/ether 00:0c:29:95:d5:31 brd ff:ff:ff:ff:ff:ff
        inet 192.168.81.10/24 brd 192.168.81.255 scope global ens33
           valid_lft forever preferred_lft forever
        inet6 fe80::a545:8b99:d507:4d0f/64 scope link 
           valid_lft forever preferred_lft forever
    
    In [8]: !cat /etc/sysconfig/selinux

  三、內省（?）

　　在變量名或命令的前面或后面加一個 “？” 並執行，可以用於顯示該對象的一些通用信息，如對象類型、文檔字符串等，這就叫做對象內省。這種操作查看到的信息，尤其是函數和類的信息，比通常直接引用變量名然后回車所看到的（repr）要好。“？” 的另一個用法是可以搜索 IPython 的命名空間，配合通配符使用效果如下：

In [1]:import numpy as np 
In [2]:np.load? 
np.load 
np.loads 
np.loadtxt 
np.pkgload 

　　使用雙問號“??”還可以查看對象的源代碼（如果可見的話）。

  四、常用快捷鍵

Ctrl-P 或上箭頭鍵 后向搜索命令歷史中以當前輸入的文本開頭的命令 
Ctrl-N 或下箭頭鍵 前向搜索命令歷史中以當前輸入的文本開頭的命令 
Ctrl-R 按行讀取的反向歷史搜索（部分匹配） 
Ctrl-Shift-v 從剪貼板粘貼文本 
Ctrl-C 中止當前正在執行的代碼 
Ctrl-A 將光標移動到行首 
Ctrl-E 將光標移動到行尾 
Ctrl-K 刪除從光標開始至行尾的文本 
Ctrl-U 清除當前行的所有文本譯注12 
Ctrl-F 將光標向前移動一個字符 
Ctrl-b 將光標向后移動一個字符 
Ctrl-L 清屏

  五、魔術命令

　　在 IPython 的會話環境中，所有文件都可以通過 %run 命令來當做腳本執行，並且文件中的變量也會隨即導入當前命名空間。即，對於一個模塊文件，你對他使用 %run 命令的效果和 from module import * 相同，除非這個模塊文件定義了 main 函數（if name == ‘main:’），這種情況下 main 函數還會被執行。

　　這種以 % 開頭的命令在 IPython 中被稱為魔術命令，用於加強 shell 的功能。常用的魔術命令有：

%quickref                   顯示ipython的快速參考
%magic                      顯示所有的魔術命令的詳細文檔
%debug                      從最新的異常跟蹤的底部進入交互式調試器
%hist                       打印命令的輸入(可選輸出)歷史
%pdb                        在異常發生后自動進入調試器
%paste                      執行剪貼板中的python代碼
%cpaste                     打開一個特殊提示符以便手工粘貼待執行的python代碼
%reset                      刪除interactive命名空間中的全部變量/名稱
%page OBJECT                通過分頁器打印輸出object
%run script.py              在ipython中執行一個python腳本文件
%prun statement             通過cprofile執行statement,並打印分析器的輸出結果
%time statement             報告statement的執行時間
%timeit statement           多次執行statement以計算系統平均執行時間.對那么執行時間非常小的代碼很有用
%who,%who_id,%whos          顯示interactive命名空間中定義的變量,信息級別/冗余度可變
%xdel variable              刪除variable,並嘗試清除其在ipython中的對象上的一切引用

　　對魔術命令不熟悉的話可以通過 %magic 查看詳細文檔；對某一個命令不熟悉的話，可以通過 %cmd? 內省機制查看特定文檔。值得一提的是，IPython 中使用 del 命令無法刪除所有的變量引用，因此垃圾回收機制也無法啟用，所以有些時候你會需要使用 %xdel 或者 %reset。

　　1、測試代碼的執行時間:

　　%time和%timeit

　　2、目錄書簽系統（ 對目錄做別名）

    In [55]: %bookmark local /usr/local         # 定義local書簽
    
    In [56]: %bookmark selinux /etc/sysconfig/selinux   # 定義selinux書簽
    
    In [57]: %bookmark -l       # 顯示所有的書簽
    Current bookmarks:
    local   -> /usr/local
    selinux -> /etc/sysconfig/selinux
    
    In [55]: %bookmark local /usr/local
    
    In [56]: %bookmark sysconfig /etc/sysconfig
    
    In [57]: %bookmark -l
    Current bookmarks:
    local   -> /usr/local
    sysconfig -> /etc/sysconfig
    
    In [58]: pwd
    Out[58]: '/'
    
    In [59]: cd local
    (bookmark:local) -> /usr/local
    /usr/local
    
    In [60]: pwd
    Out[60]: '/usr/local'
    
    In [61]: cd sysconfig
    (bookmark:sysconfig) -> /etc/sysconfig
    /etc/sysconfig
    
    In [62]: pwd
    Out[62]: '/etc/sysconfig'

　　3、記錄歷史輸入和輸出

　　IPython能夠記錄整個控制台會話，包括輸入和輸出。執行%logstart即可開始記錄日志。IPython的日志功能可以在任何時刻開啟，它將記錄你的整個會話（包括此前的命令）。此外還可以看看幾個與之配套的魔術命令%logoff,%logon,%logstate以及%logstop。

　　4、與操作系統交互（IPython魔術命令）

命令	說明
!cmd	在系統shell中執行cmd
output=!cmd args	執行cmd，並將stdout存放在output中
%alias alias_name cmd	為系統shell命令定義別名
bookmark	使用IPython的目錄書簽系統
%cd directory	將系統工作目錄更改為directory
%pwd	返回系統的當前工作目錄
%pushd directory	將當前目錄入棧，並轉向目標目錄
%popd	彈出棧頂目錄，並轉向目標目錄
%dirs	返回一個含有當前目錄棧的列表
%dhist	打印目錄訪問歷史
%env	以dict形式返回系統環境變量

  六、ipython notebook

　　1、安裝jupyter

pip install jupyter

　　2、運行界面

　　

　　

　　

四、ipython高級用法

  一、alias

In [3]: %alias largest ls -1sSh | grep %s
In [4]: largest to
total 42M
 20K tokenize.py
 16K tokenize.pyc
8.0K story.html
4.0K autopep8
4.0K autopep8.bak
4.0K story_layout.html

　　注意：別名需要存儲的, 否則重啟ipython就不存在了:

In [5]: %store largest
Alias stored: largest (ls -1sSh | grep %s)

下次進入的時候%store -r

  二、ipcluster - 並行計算

　　其實ipython提供的方便的並行計算的功能. 先回答ipython做並行計算的特點:

wget http://www.gutenberg.org/files/27287/27287-0.txt

　　1、第一個版本是直接的, 大家習慣的用法

In [1]: import re

In [2]: import io

In [3]: non_word = re.compile(r'[Wd]+', re.UNICODE)

In [4]: common_words = {
   ...: 'the','of','and','in','to','a','is','it','that','which','as','on','by',
   ...: 'be','this','with','are','from','will','at','you','not','for','no','have',
   ...: 'i','or','if','his','its','they','but','their','one','all','he','when',
   ...: 'than','so','these','them','may','see','other','was','has','an','there',
   ...: 'more','we','footnote', 'who', 'had', 'been',  'she', 'do', 'what',
   ...: 'her', 'him', 'my', 'me', 'would', 'could', 'said', 'am', 'were', 'very',
   ...: 'your', 'did', 'not',
   ...: }

In [5]: def yield_words(filename):
   ...:     import io
   ...:     with io.open(filename, encoding='latin-1') as f:
   ...:         for line in f:
   ...:             for word in line.split():
   ...:                 word = non_word.sub('', word.lower())
   ...:                 if word and word not in common_words:
   ...:                     yield word
   ...:

In [6]: def word_count(filename):
   ...:     word_iterator = yield_words(filename)
   ...:     counts = {}
   ...:     counts = defaultdict(int)
   ...:     while True:
   ...:         try:
   ...:             word = next(word_iterator)
   ...:         except StopIteration:
   ...:             break
   ...:         else:
   ...:             counts[word] += 1
   ...:     return counts
   ...:

In [6]: from collections import defaultdict # 腦殘了 忘記放進去了..
In [7]: %time counts = word_count(filename)
CPU times: user 88.5 ms, sys: 2.48 ms, total: 91 ms
Wall time: 89.3 ms

　　ipython運行一下

ipcluster start -n 2 # 好吧, 我的Mac是雙核的

　　2、ipython 並行計算的用法：

 

In [1]: from IPython.parallel import Client # import之后才能用%px*的magic

In [2]: rc = Client()

In [3]: rc.ids # 因為我啟動了2個進程
Out[3]: [0, 1]

In [4]: %autopx # 如果不自動 每句都需要: `%px xxx`
%autopx enabled

In [5]: import os # 這里沒autopx的話 需要: `%px import os`

In [6]: print os.getpid() # 2個進程的pid
[stdout:0] 62638
[stdout:1] 62636

In [7]: %pxconfig --targets 1 # 在autopx下 這個magic不可用
[stderr:0] ERROR: Line magic function `%pxconfig` not found.
[stderr:1] ERROR: Line magic function `%pxconfig` not found.

In [8]: %autopx # 再執行一次就會關閉autopx
%autopx disabled

In [10]: %pxconfig --targets 1 # 指定目標對象, 這樣下面執行的代碼就會只在第2個進程下運行

In [11]: %%px --noblock # 其實就是執行一段非阻塞的代碼
   ....: import time
   ....: time.sleep(1)
   ....: os.getpid()
   ....:
Out[11]: <AsyncResult: execute>

In [12]: %pxresult # 看 只返回了第二個進程的pid
Out[1:21]: 62636

In [13]: v = rc[:] # 使用全部的進程, ipython可以細粒度的控制那個engine執行的內容

In [14]: with v.sync_imports(): # 每個進程都導入time模塊
   ....:     import time
   ....:
importing time on engine(s)

In [15]: def f(x):
   ....:     time.sleep(1)
   ....:     return x * x
   ....:

In [16]: v.map_sync(f, range(10)) # 同步的執行

Out[16]: [0, 1, 4, 9, 16, 25, 36, 49, 64, 81]

In [17]: r = v.map(f, range(10)) # 異步的執行

In [18]: r.ready(), r.elapsed # celery的用法
Out[18]: (True, 5.87735)

In [19]: r.get() # 獲得執行的結果
Out[19]: [0, 1, 4, 9, 16, 25, 36, 49, 64, 81]

入正題:

In [20]: def split_text(filename):
....:    text = open(filename).read()
....:    lines = text.splitlines()
....:    nlines = len(lines)
....:    n = 10
....:    block = nlines//n
....:    for i in range(n):
....:        chunk = lines[i*block:(i+1)*(block)]
....:        with open('count_file%i.txt' % i, 'w') as f:
....:            f.write('n'.join(chunk))
....:    cwd = os.path.abspath(os.getcwd())
....:    fnames = [ os.path.join(cwd, 'count_file%i.txt' % i) for i in range(n)] # 不用glob是為了精准
....:    return fnames

In [21]: from IPython import parallel

In [22]: rc = parallel.Client()

In [23]: view = rc.load_balanced_view()

In [24]: v = rc[:]

In [25]: v.push(dict(
   ....:     non_word=non_word,
   ....:     yield_words=yield_words,
   ....:     common_words=common_words
   ....: ))
Out[25]: <AsyncResult: _push>

In [26]: fnames = split_text(filename)

In [27]: def count_parallel():
   .....:     pcounts = view.map(word_count, fnames)
   .....:     counts = defaultdict(int)
   .....:     for pcount in pcounts.get():
   .....:         for k, v in pcount.iteritems():
   .....:             counts[k] += v
   .....:     return counts, pcounts
   .....:

In [28]: %time counts, pcounts = count_parallel() # 這個時間包含了我再聚合的時間
CPU times: user 47.6 ms, sys: 6.67 ms, total: 54.3 ms # 是不是比直接運行少了很多時間?
Wall time: 106 ms # 這個時間是

In [29]: pcounts.elapsed, pcounts.serial_time, pcounts.wall_time
Out[29]: (0.104384, 0.13980499999999998, 0.104384)