【轉】matlab控制運算精度、四舍五入保留小數點后特定位數的實現


2020-09-27  15:43:24

1.digits

2.vpa(常用)

3.roundn

具體說明:

1.matlab中使用digits:

digits(5);
a=vpa(sqrt(2));
這樣a的值就是1.4142,而不是准確的1.4142135623730950488016887242097


又如:
digits(5);
a=vpa(sqrt(2));
b=sqrt(2);

這樣a的值是1.4142,b沒有用vpa函數,所以b是1.4142135623730950488016887242097......


2.vpa全稱是Variable-precision arithmetic,也就是算術精度,vpa函數對其中每一個運算都控制精度,並非只控制結果。
digits(11);
a=vpa(2/3+4/7+5/9);
b=2/3+4/7+5/9;
a的結果為1.7936507936,b的結果為1.793650793650794......也就是說,計算a的值的時候,先對2/3,4 /7,5/9這三個運算都控制了精度,又對三個數相加的運算控制了精度。而b的值是真實值,對它取11位有效數字的話,結果為1.7936507937,與a不同,就是說vpa並不是先把表達式的值用matlab本身的精度求出來,再取有效數字,而是每運算一次,都控制精度。我舉的例子不太好,因為加法不太會增加數字位數。希望你能理解我的意思....

 

3.roundn(x,y):x表示要四舍五入的數,y表示精確地位數,y<0時保留小數點后,y>0時保留小數點前

A = roundn(123.45,1);  % 輸出A = 120

A = roundn(123.45,2);  % 輸出A = 100

A = roundn(123.45,-1);  % 輸出A = 123.5000

A = roundn(123.45,-2);  % 輸出A = 123.4500

 

參考:

https://zhidao.baidu.com/question/237050395.html

https://blog.csdn.net/qq_36556893/article/details/79596842

https://blog.csdn.net/witnessai1/article/details/52432473?utm_medium=distribute.pc_relevant.none-task-blog-BlogCommendFromMachineLearnPai2-1.edu_weight&depth_1-utm_source=distribute.pc_relevant.none-task-blog-BlogCommendFromMachineLearnPai2-1.edu_weight

https://blog.csdn.net/Davidietop/article/details/105364792


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM