2018年5月3日 星期四
Photogrammetry 的資料整理
因為專案因素,就記錄一下~~
系統需求: 準備一張支援 CUDA 的 NVIDIA 顯示卡,才能跑出結果。 很重要!
使用 COLMAP + Meshlab
COLMAP 相關文件:
官方網站,
Free photogrammetry software review: 2017
Lab Notes: A recipe for using photogrammetry to create 3D model
Photogrammetry Testing 8: COLMAP
wikipedia 的比較: Comparison of photogrammetry software
另外,協同編輯(共寫)的功能,有以下幾篇可以參考:
Collaborative Editing in JavaScript: An Intro to Operational Transformation
PHPWebSocket-TinyMCE
2018年4月30日 星期一
mysql restore
資料來源: https://github.com/17media/mysql-restore
以下為內容備份留存
前言
請優先善用storage的snapshot功能作backup and restore。當你需要用上logical restore時:
- master和slave機器都趴掉
- 沒法從storage snapshot恢復過來
- 其中一個use-case:整個datacenter趴掉,需要在別的datacenter重建mysql
mysql.cnf
mysql
和mysqldump
會從這檔案讀取所需的username和password- 位置: ~/.my.cnf
- 內容:
[client]
host=abc.com
user=root
password=abc123456
port=3306
backup script
- 把純資料backup,不包schema,並且進行gzip
mysqldump --max_allowed_packet=512M --single-transaction --extended-insert --compress \
--no-create-info --no-create-db --skip-triggers \
--databases test1 | gzip -c > dump.sql.gz
- 把database schema作backup
mysqldump --max_allowed_packet=512M --single-transaction --extended-insert --compress \
--no-data \
--databases test1 > schema.sql
- autoinc的數值存放於schema部份而不是在data部份,所以每次logical backup一定要2者都跑
- 次序一定是先跑data然後跑schema,否則autoinc數值會出錯
- backup過程中不能跑alter table
restore script
- 先重建schema:
mysql < schema.sql
- import data部份,mysql是用single thread來跑,100GB的資料需要超過6小時的,這樣子太慢
gzip -cd dump.gz | mysql --max_allowed_packet=512M --compress
parallel data import
-
原理
- 先把本來的
dump.sql.gz
切成table_XXX.sql
,table_YYY.sql
…… - 當準備好一個
table_XXX.sql
後,立即呼叫mysql < table_XXX.sql
來做data import,因為同一時間能import多個table,所以時間大幅縮短了 - 部份可以事後再補回的table可以先不做import,再進一步加快速度
- 先把本來的
-
compile program:
go build
-
執行import:
mysql-restore \
--path \
--concurrency
--ignore-tables
- 範例
./mysql-restore --path /backup/dump-20180429.sql.gz --ignore-tables "NotImportantTable,JustLogTable"
2018年4月13日 星期五
arduino 筆記
Arduino Ethernet
Arduino Ethernet 的話,需要 FTDI 的連接線,才能從電腦的 usb 連到 Arduino Ethernet 寫入程式。
接頭的樣式類似以下文章的說明:
https://gr33nonline.wordpress.com/2016/10/16/programming-the-arduino-ethernet-board/
以下幾個做為 web server 的例子:
http://wiznethk.pixnet.net/blog/post/344710378-arduino-ethernet%E5%85%A5%E9%96%80%E2%80%94%E2%80%94%E6%A7%8B%E5%BB%BA%E7%B0%A1%E6%98%93%E7%9A%84web-server%E6%95%99%E7%A8%8B
http://idledev.com/2015/04/http-get-parameters-with-arduino-part-1/
2018年4月8日 星期日
2018年3月14日 星期三
林宜敬: 令人難以理解的軟體工程師生涯
我個人非常認同這篇的內容~~
原文網址: https://www.facebook.com/yijing1/posts/10155642313309495
整篇都說的很好,以下只節錄其中幾點:
四、
寫一個大型程式,並不是「人多好辦事」。
如果是土木工程或是製造業,人越多、產出就越大。如果一個計畫延誤了,就多調一些人手過來幫忙。
但是在軟體工程裡,人越多,就越是難以協調,寫出來的程式也往往品質越差、效能越糟糕。
這就是有名的”The Mythical Man-Month: Adding manpower to a late software project makes it later"。
IBM在1960年代開發OS/360作業系統軟體時,就發現了這個奇特的現象。
所以我也搞不懂,大型軟體公司雇用了那麼多的軟體工程師幹嘛?
六、
寫程式並不是寫的越長越好、越厲害。
我年輕在台大資訊工程系的時候,會跟朋友炫耀說:「我寫的程式語言編譯程式,總共有一萬多行耶。」
後來我去美國布朗大學讀電腦科學博士,畢業的時候喜歡跟朋友炫耀:「我的博士論文那個程式,功能那麼強大,但是我只用了七、八千行程式就搞定了耶。」
七、
二流的軟體工程師,喜歡把簡單的問題弄的複雜,寫出別人看不懂的程式。
一流的軟體工程師,喜歡把複雜的問題簡單化,寫出架構清楚明白的程式,讓人看了之後,覺得問題好像很簡單。
三流的軟體工程師會去崇拜二流的軟體工程師,因為他們會覺得二流工程師寫的程式都看不懂,一定是超級厲害;
三流的軟體工程師不會去崇拜一流的軟體工程師,因為他們會覺得一流工程師所做的事情都很好懂,好像都很簡單。
只有一流的的軟體工程師才會佩服一流的軟體工程師,因為只有他們才能看的出來,其他的一流軟體工程師厲害在哪裡?
台灣的軟體業如此,美國的軟體業也大致如此。
2018年3月6日 星期二
越在地越國際?
原文網址: https://www.facebook.com/agritruth/photos/a.1526400194238068.1073741828.1526178950926859/2031605333717549/?type=3&theater
【文青別鬼扯】---「越在地越國際?」
這幾年台灣不管是公部門還是許多民間組織,搞設計、賣創
同樣是為了賺取零用錢,今天下午鬼王又再度委身出門演講
如果大家有看過各種農村再生或社區營造的企劃案就會發現
反正如果有任何人跳出來說這樣的設計不好,這樣的企劃很
但問題是,對外人而言,「在地」是賣點嗎?
倘若鬼王拿著嘉義縣六腳鄉的「蒜頭餅」向台北市大安區土
No!多數台灣人甚至連「六腳鄉」都沒聽過。說不定天龍
「在地」這概念頂多只對生活在外地的鄉親還有吸引力,但
這時候大家必定會質疑,某些鄉鎮的特產很有名,這樣就很
但問題在於,這些特產是因為那個鄉鎮而有名,還是那個鄉
文旦是因為麻豆而出名的嗎?當然不是,是因為當地的文旦
所以囉,當我們一直強調「地方」與「在地」時,似乎忘記
至於有些人很愛說,「越在地越國際」,根本是弄錯兩者的
不能否認的是,很多行銷全球的商品都帶有在地特色。但問
韓國泡菜夠在地吧,韓國人吃了幾百年,超級有韓國在地特
如今韓國泡菜變成全球性商品,並不是因為它超級有韓國特
我們再回頭看看這幾年到處都在推的「在地化」、「一鄉一
如果在地化、地方產品真的那麼棒,為何每次去各地的小農
如果真的都要做在地化,為何每個社區發展協會提出的Pr
國際化商品確實都會有在地特色,但並不表示「越在地越國
2018年3月2日 星期五
Machine Learning 資源
Google Machine Learning Crash Course with TensorFlow APIs, Google 免費機器學習課程
https://developers.google.com/machine-learning/crash-course/
訂閱:
文章 (Atom)